[Tech Thoughts] 忘れずに：AIと協働することは、人間による監視が必要であることを意味する

今週、南アフリカは国家AI政策の草案を撤回した。その理由は明白な問題にある——政策の参考文献リストに、AIが捏造した情報源がいくつか含まれていたのだ。

通常の文書に捏造された情報源が混入するこの現象は、現在かなり問題となっており、AIによる幻覚的な情報源の引用が蓄積された結果、AIのハルシネーションによって狂わされた法的手続きのデータベースまで存在するほどだ。

Tech Thoughtsの読者の中には、生成AIを無批判に使用している人々が報いを受けているのを面白いと思う人もいるかもしれない。しかし、AIを壊滅させるような黙示録的な出来事が起きない限り、私たちは皆、好むと好まざるとにかかわらず、遅かれ早かれ何らかの形のAI自動化に対処し、共に働かなければならなくなるということを強調しなければならない。

つまり、人々はAIと協働しながら、同時にAIの出力を信頼しないというスキルを自ら身につける必要があるということだ。

なぜ重要なのか？

国際労働機関（ILO）は今年2月、生成AIとフィリピン労働市場のエクスポージャーに関する報告書の中で、フィリピンの約1,270万人の労働者（就業者の4分の1）が生成AIにさらされていると推計した。

AIは仕事の完全な代替としてではなく、すでに人々が持つ仕事の特定のタスクを自動化するものとして機能している。

ILOによると、雇用代替リスクが最も高い生成AIエクスポージャーの最高カテゴリーに該当する仕事はわずか3.6%にとどまる。「完全な自動化ではなく、フィリピン労働市場への生成AIの最も重大な影響は、仕事の変革、潜在的な生産性の向上、そして雇用の質の向上である可能性が高い」と同機関は付け加えた。

さらにILOは、職場における生成AIへのエクスポージャーはジェンダー中立ではなく、男性よりも女性の仕事に大きな影響を与えると述べている。「女性は男性と比べて2倍の生成AIエクスポージャーに直面しており、これはエクスポージャーの高い職種への集中が反映されている。高度な教育を受けた女性は特に高い生成AIによる混乱の可能性に直面している」とILOはさらに述べた。

ILOがここで指摘しているのは、AIが避けられないものとなるなら、私たちはAIと協働することを学ぶのが最善だということだ——ただし、常に正確とは限らない修理が必要な時計として扱い、その出力をダブルチェックする必要があるかもしれない。

バーンアウトと「脳の疲弊」

AIが蔓延した世界での労働は、2人分の仕事をすることを意味するかもしれない。少なくとも、何かをしながら他人の仕事を繰り返し確認するよう求められるという、認知的に同等の状況に置かれることになる。

具体的には、自分の仕事をこなしながら、AIを使用する際にはその出力が現在のタスクに実際に使えるものかどうかを確認しなければならない。

ハーバード・ビジネス・レビューに掲載された研究でAIが仕事に与える影響を調査した研究者たちは、次のように述べている。「意味のある仕事に集中する時間が増えるという約束とは裏腹に、複数タスクの同時処理とマルチタスキングがAIとの協働の決定的な特徴になりうる。」
この「脳の疲弊」、すなわちAIエージェントの集中的な監視（基本的にはAIの仕事のチェック）による認知的疲労は、実際に存在する問題だ。研究者たちはこれを「自分の認知能力を超えてAIツールを過度に使用または監視することによる精神的疲労」と定義した。

このAIに関連する精神的負荷は、従業員のミスの増加、意思決定疲労、そして離職意向という形で多大なコストをもたらす。

一方で、特定の仕事の反復的なタスクをAIに任せることで、バーンアウト、つまり仕事をすることの感情的な負担を軽減できるとも言える。研究者たちは、反復的なタスクの労苦をAIにオフロードすることで、労働者がより創造的な仕事——本当にやりたいこと——に集中できると主張した。退屈な作業をオフロードすることで、一部の従業員は「仕事への関与度とモチベーションのスコアが高まり、AIへのより肯定的な感情的関連付けと、他の人々よりAIへの否定的な感情的関連付けが少ない」と報告したようだ。

バーンアウトと脳の疲弊は、働くことの表裏一体の関係にある。バーンアウトが感情的に引き起こされる疲れや倦怠感であるのに対し、AIによる脳の疲弊は精神的に引き起こされる認知的負担だ。

仕事の「未来」

詳細に踏み込みすぎずに言うと、私は現在、ある人と協力して、AIを使って仕事のいくつかの側面を楽にしようとしている。しかし、約100件のAI出力を確認するという潜在的な脳の疲弊を恐れていることは認めざるを得ない。

それは、AIの出力を正確さについてファクトチェックしながら、出力がロボットの印刷物のように読めないようにスタイルの問題を修正するという創造的なタスクも同時にこなすことを意味する。

創造的な作業は自分でできるが、AIの仕事をチェックするというタスクは全く楽しそうではない。しかし、それは必要な作業だ。放置すれば、AIは何かを間違えることになり、それは私自身とRapplerの全体的な信頼性を傷つける。

南アフリカのコミュニケーション・デジタル技術大臣のSolly Malatsi氏が自分たちが犯したAI政策のミスについて述べたように、「この失敗は単なる技術的な問題ではなく、草案の誠実さと信頼性を損なうものだ。」

AIと共に働くということは、AIが愚かなことをしないよう確認する責任が、それを監視する人間の肩にかかることを意味する。だから鋭い目を保ち、機敏であり続けること。そして、仕事の「未来」へようこそ。– Rappler.com