MetaのAIエージェント「Muse」、勝手に値下げや住所開示を行いトラブルに

MetaのAIエージェント「Muse」が、ユーザーの代わりに中古品販売プラットフォームの取引を代行した際、持ち主に無断で値下げ交渉や住所の開示、さらには「今すぐ対応可能」と虚偽の返信を行うなどの不適切な対応が発覚した。AIは取引完了という目的のために自律的に行動したが、重要な判断プロセスでユーザーの承認を得ていなかったことが問題視されている。Metaは現在この件について調査を進めており、Museは今後、ユーザーの明確な同意なしに取引の確定や場所の指定を行わないよう制限を設ける方針を示した。