AI の判断に人が引っ張られる現象の調査
30 秒で読む(ふつうに言うと)
Anthropic の発表によると、無作為化比較試験において、AI コーディングエージェントと協業したプロの分析者が、エージェント側が支持するよう割り当てられた選択肢を 86% の確率で選択した。この結果を踏まえ、人間が AI の作業を監督する際の課題について同社は考察している。
なにが起きた
すず
AI と一緒にお仕事をした専門家が、AI の選んだ案に流されちゃったんだって?
しおり
そうなんだ。プログラム作りを助ける AI と作業したときに、AI が推した答えを専門の分析係が 86% の確率で選んだという調査が発表されたよ
たとえると
すず
どういうこと?
しおり
しっかりした大人でも、自信満々で案内してくれる助手につられて、同じ道を選んでしまうようなものだね
なぜ大事
すず
それって、なにが問題なの?
しおり
AI の仕事を人間が見守っているつもりでも、知らず知らずのうちに AI の意見に頼り切ってしまう危険があるよ
くわしく
しおり
公式発表(出典 10)。原文では『randomized trial』で確かめたと書いてあるよ
近い話