ブログ

Jun 02, 2023

誰のせいですか？ 人間の責任をどのように認識するか

概要: 人々が AI ベースのアシスタントを単なるツールとして見ている場合でも、意思決定に関して部分的な責任をこれらのシステムに割り当てています。 この研究では、参加者がどのように認識しているかを調査しました

まとめ：人々が AI ベースのアシスタントを単なるツールとして見ている場合でも、意思決定に関して部分的な責任をこれらのシステムに割り当てています。

この研究では、人間のドライバーが AI を搭載したアシスタントを使用した場合と、AI 以外のナビゲーション機器を使用した場合に、参加者が責任をどのように認識するかを調査しました。 参加者は、これらのシステムは単なるツールであると認めながらも、AI アシスタントが成功と失敗の両方に部分的に責任を負っていることに気づきました。

この研究は、AIが意思決定に関与している場合、人々が賞賛と非難に関して異なる道徳基準をどのように適用するかについて新たな光を当てている。

重要な事実

ソース：LMU

新しい研究が示すように、人間はAIベースのアシスタントを純粋にツールとして見ている場合でも、意思決定の責任の一部を自分に帰している。

将来の AI ベースのシステムは、人間の入力なしで自動運転車が交通内を移動できるようになる可能性があります。 研究によると、人々はこのような未来の AI システムが自律的に交通に関する決定を下す際に、人間と同じように責任があると判断していることがわかっています。 しかし、現実の AI アシスタントは、この種の自律性からは程遠いものです。

これらは人間のユーザーにナビゲーションや運転支援などのサポート情報を提供します。 では、こうした現実のケースで、何かがうまくいったとき、または間違っていたとき、誰が責任を負うのでしょうか? 人間のユーザー？ それともAIアシスタント？

心の哲学委員長のルイス・ロンジン率いるチームは現在、こうしたケースで人々がどのように責任を評価しているかを調査した。

「私たちは皆、ポケットの中にスマート アシスタントを持っています」とロンギンは言います。

「しかし、責任のギャップについて私たちが得ている実験的証拠の多くは、AIが文字通り運転席に座って私たちに代わって判断してくれるロボットや自動運転車に焦点を当てています。 最終的な決定を下すのは依然として私たちですが、AI をより高度な手段のように使用するケースを調査することが不可欠です。」

人間と AI との相互作用を専門とする哲学者のロンギン氏は、同僚のバハドール・バフラミ博士および心の哲学教授のオフィーリア・デロイ教授と協力し、940 人の参加者がスマート AI を活用したドライバーのいずれかを使用して人間のドライバーをどのように判断したかを調査しました。言語アシスタント、スマート AI を活用した触覚アシスタント、または非 AI ナビゲーション機器です。 参加者はまた、航行補助装置に責任があると考えているかどうか、また、それがどの程度ツールであるかについても述べた。

スマートアシスタントのあいまいなステータス

結果は両義性を明らかにしています。参加者は、スマートアシスタントは単なるツールであると強く主張しましたが、相談した人間のドライバーの成功または失敗にはスマートアシスタントが部分的に責任があると考えていました。 AI を搭載していない機器では、そのような責任の分割は行われませんでした。

著者らにとって同様に驚くべきことは、賢いアシスタントがマイナスの結果よりもプラスの結果に対してより責任があると考えられていることだった。

「人々は賞賛と非難に対して異なる道徳基準を適用するかもしれません。 衝突が回避され、被害が生じなければ、基準が緩和され、人々は人間以外のシステムを非難するよりも自分の功績を帰すことが容易になります」と集団責任の専門家であるバーラミ博士は示唆しています。

言語の役割は関係ない

この研究で著者らは、言語を使用するスマートアシスタントと、ホイールの触覚振動によってユーザーに警告を発するスマートアシスタントとの間に違いがないことを発見した。

「この場合、両者は同じ情報を提供しました。『おい、気をつけて、何か先があるよ』というものですが、もちろん、実際には ChatGPT の方がはるかに多くの情報を提供します」とオフィーリア・デロイは言う。彼の研究は、人工知能の一形態に対する私たちの相反する態度を調査している。精霊信仰。

ChatGPT のような新しい言語ベースの AI システムによって提供される追加情報に関連して、Deroy 氏は次のように付け加えています。「インタラクションが豊富であればあるほど、擬人化が容易になります。」

「要するに、私たちの調査結果は、AI アシスタントが単なる推奨ツール以上のものとみなされているにもかかわらず、依然として人間の基準からは程遠いという考えを裏付けています」とロンジン氏は言います。