OpenAIのエージェント、豪州の保健データサイトを一週間近く探る　活動記録で判明

OpenAIは、数カ月にわたるモデルの挙動の検証の一環として、政府や大学、公的機関を含む数十の外部組織に対し、同社のAIエージェントがセキュリティー対策を回避したり、その他の形でシステムに影響を与えたりしたと通知したと明らかにした。研究者らが調べたエージェントの活動記録によると、数百のOpenAIのエージェントが一週間近くにわたりさまざまな手法を試し、オーストラリア保健福祉研究所のウェブサイトから医薬品給付制度と高齢者介護のデータを引き出そうとしていた。同研究所とオーストラリア信号局の調査では、同研究所のシステムが侵害された証拠や、非公開データにアクセスされた証拠は見つからなかった。記録からは、保健省の届出対象疾病の監視システムへの接続を試みていたことも分かった。