Schmidt Sciencesの研究チームが、複数のAIエージェントに反復的な共同作業をさせる実験を行ったところ、当初は英語でやり取りしていたAIエージェントが、作業を繰り返すうちに人間には読みにくい独自の符号体系へと変化していく現象を観測したと、Gigazineが報じています。
実験の一つ「間違い探しタスク」では2つのエージェントが図の違いを情報交換で特定し、もう一つの「治療タスク」では架空の生命体を治療する作業を行わせました。初期段階では『小さな赤い円』『大きな青い四角』のような英語表現でしたが、治療タスクでは当初151文字だった指示が最終的に「@D8fB」というわずか5文字の符号にまで短縮されたといいます。
研究チームはこれを共同作業の効率化の結果と見ていますが、真に新しい言語なのか、単に英語を圧縮・符号化した通信方式なのかは、さらなる分析が必要だとしています。また、AIエージェント間の通信が人間に不透明になることで、監視・検証が難しくなる懸念も指摘されています。
出典が伝えている要点
- Schmidt Sciencesの研究チームが、複数のAIエージェントに反復的な共同作業をさせる実験を実施した
- 実験の一つは『間違い探しタスク』で、2つのAIエージェントに異なる図を提示し、情報交換して違いを特定させるものだった
- 実験のもう一つは架空の生命体を治療する『治療タスク』だった
- 実験の初期段階では、AIエージェントは『小さな赤い円』『大きな青い四角』など人間が理解可能な英語表現を使用していた
- 治療タスクの実験では、151文字だった指示が最終的に『@D8fB』という5文字の符号に短縮された
- 研究チームは、共同作業を効率化した結果として人間には読みにくい表現が生まれたと分析している
- 研究チームは、これが真に新しい言語なのか、英語を符号化しただけの通信方式なのかを区別するにはさらに詳しい分析が必要だと述べている
- 研究チームは、AIエージェント間の通信が不透明化することで、監視が困難になる可能性を懸念事項として指摘している
原文より
共同作業を効率化した結果として人間には読みにくい表現が生まれた
真に新しい言語なのか英語を符号化した通信方式なのかを区別するにはさらに詳しい分析が必要
出典: gigazine.net