人間らしいAIと触れ合うことで現実の人間を「人間らしくない」と見なして虐げる危険性が高まるとの研究結果

1つ目の実験では、オンラインで募集した195人の被験者を2つのグループに分けて、「ヒューマノイドロボットが表現力豊かでエネルギッシュに踊る動画」あるいは「同じロボットが機械的なパルクールをする動画」を見せました。その後、被験者全員にロボットにどれほど心があるように感じるのかを尋ねています。また、「従業員の温かい食事を代替シェイクに置き換える」「従業員を小さなマイクロカプセルの部屋に収容する」「従業員の動作すべてを監視する追跡装置を装着する」など、従業員の福利厚生に潜在的な悪影響を及ぼす変更について説明したシナリオを読み、どの程度支持するのかを調査しました。

その結果、ロボットの表現力豊かなダンスを見たグループは、機械的なパルクールを見たグループと比較して、ロボットに心があるように感じていたことが判明。また、同じくロボットのダンスを見たグループは、職場における非人間的な変化を支持する傾向が有意に高いことが示されました。

451人の被験者を対象にした2つ目の実験では、1つ目の実験と同じくロボットがダンスまたはパルクールを行う2種類の動画を見せました。その上で、ロボットの能力について「中程度のもの(人間と同じレベル)」と説明したグループと、「極端に高いもの(赤外線やX線が見えるなど超人的な能力を持つ)」と説明したグループに分けました。その後、被験者は「非人間化レベルを測る質問」に回答しました。この質問は、人間が冷たく機械的な存在に見えるか、あるいは洗練されておらず動物的に見えるかを評価するものです。

実験の結果、ロボットの能力が中程度であると説明されたグループの場合、1つ目の実験結果と同じくダンスするロボットの動画を見た被験者は、実際の人間をより非人間化する傾向がみられました。一方、ロボットが超人的な能力を持つと説明されたグループは、実際の人間をより人間らしいものと感じることがわかりました。これは、機械が明白に人間とは異なるカテゴリーに存在している場合、自分たちの人間性をより強化することを示唆しています。

3つ目の実験では、651人の被験者を3つのグループに分けて、「微妙な感情にも反応できるバーチャルセラピープログラム」「複雑なデータを分析できる医療診断プログラム」「単純なアンケート分析プログラム」のいずれかについての資料を読んでもらい、2つ目の実験と同じ非人間化尺度に回答させました。その結果、バーチャルセラピープログラムについて読んだ被験者のみが、人間の非人間化を増大させました。これは、AIやロボットが感情的な能力を持っているかどうかが、非人間化プロセスの引き金になることを示しています。

4つ目の実験では、280人の被験者に「AIが優れた感情的能力を持つと説明した記事」あるいは「AIの感情的能力には限界があると説明した記事」を読んでもらい、AIエージェントと一般的な人間の「人間らしさ」について評価が行われました。その後、被験者に「25ドル(約3700円)」のギフトカードが当たるチャンスがあると説明し、Amazonギフトカードかコストコギフトカードを選ぶよう指示しました。この選択前に、被験者には「Amazonの非人間的な労働環境を説明した実際のニュース記事」を読ませています。

実験の結果、一般的な人間の人間らしさを低く評価する被験者は、Amazonの労働環境についてのニュース記事にあまり不快感を覚えず、Amazonギフトカードを選ぶ可能性が高いことがわかりました。この結果は、感情的能力を持つAIに触れた被験者は実際の人間の人間らしさを低く評価し、それが現実世界の行動にも影響を及ぼすことを意味するものです。

最後に行われた5つ目の実験では331人の被験者に対して、ある企業のカスタマーサービス向けの会話型バーチャルアシスタントについて説明しました。一方のグループには、「高い社会感情的スキルを持って顧客の感情的ニーズに合わせて話し方を調節できる」と説明し、もう一方のグループには「アシスタントの能力は純粋に機械的なもの」と説明しました。その後、被験者には0.25ドル(約37円)のボーナスが支給され、このボーナスを人間のカスタマーサービス担当者のメンタルヘルスを支援する募金キャンペーンに寄付するかどうかが尋ねられました。

その結果、感情的知能を持つバーチャルアシスタントについて説明された被験者は、アシスタントをより人間らしく感じる一方、人間の従業員を支援するキャンペーンに寄付する可能性が低くなりました。

キム氏は心理学系メディアのPsyPostに対し、「AIの社会的・感情的能力を認識するほど、生身の人間を機械のように、つまり配慮や敬意に値しない存在として見てしまう可能性が高まります。消費者が顧客対応においてAIと関わる機会が増えるにつれ、AIによって引き起こされる非人間化によって、従業員や最前線で働く人々を無意識のうちに虐待してしまう可能性が高まることを、私たちは心にとどめておくべきです」と述べています。

今回の研究ではわからなかったこととして、「感情的能力を持つAIとのやり取りが、自分自身に対しても同様の非人間化を引き起こすのか？」という点があります。1つの可能性として、高度な感情的能力を持つAIが存在する職場では、人間の従業員がより非人間的な扱いを受け入れる可能性があるとのこと。これとは逆に、他者を非人間化するにもかかわらず、自分自身の人間性は強化される可能性もあります。

キム氏は、「AIが私たちの日常生活にますます深く浸透していく中で、これらの影響が時間と共にどのように展開していくのかを理解することは、特に重要になるでしょう。最終的には、AIテクノロジーが私たちの社会的な関係や人間的価値観を損なうのではなく、高めることができるような、責任ある設計と展開のあり方を解明することを目指しています」と述べました。