Permutation Robustness reicht nicht: Action Collapse in Multi-Agent Transformer Policies
In einem Preprint untersuchen die Autoren, ob Transformer-Policies in Multi-Agenten-Systemen echte Koordination lernen oder lediglich die Agentenreihenfolge abbilden. Die Experimente zeigen, dass niedrige Permutationsfehler täuschen können, weil Policies oft alle Agenten dieselbe Aktion wählen; PPO-ID liefert diverses, aber ordnungssensitives Verhalten, während Equivarianz-Regularisierung Robustheit verbessert, jedoch Action Collapse fördern kann. Für Teams mit N=4 sind deutlich schwächere Regularisierungsgewichte nötig, weshalb die Autoren fordern, Return, Permutationsrobustheit und Aktionsvielfalt gemeinsam zu bewerten.