人間中心のAIが必要な理由

「完全な人間の制御から完全な機械の自律性に至るまでの自動化のレベルのアイデアは、それがゼロサムゲームであるという誤った考えを生き続けています」とシュナイダーマンはTechTalksに語った。 「しかし、携帯電話のカメラやナビゲーションのように注意深く設計することで、設計者は、創造的で個人的な好みのタスクに対して高度な人間の制御を維持しながら、一部のタスクに対して高度な自動化を組み合わせることができます。」

このバランスをとるために、シュナイダーマンは、人間を高度に自動化されたシステムの中心に保つ一連のガイドラインである、人間中心のAI（HCAI）フレームワークを提案しています。 HCAIは3つの重要なアイデアに基づいています。 まず、AIシステムの設計者は、人間のパフォーマンスを増幅する方法で自動化を強化することを目指す必要があります。 第二に、彼らは完全な人間の制御または完全なコンピュータ制御が必要な状況を注意深く調べて定義しなければなりません。 そして第三に、彼らは人間やコンピューターによる過度の制御の危険性を理解し、回避する必要があります。

AIシステムはさまざまなタスクで非常に正確になるため、人間が自動決定を制御およびオーバーライドできる機能を省略する傾向があります。 人間による制御を減らすことを支持する人々は、第一に、人間は多くの間違いを犯し、第二に、制御を習得したり、わざわざ使用したりするユーザーはほとんどいないと主張しています。

ただし、Shneidermanは、AIを利用した製品に適したユーザーインターフェイスとエクスペリエンス要素を設計することで、これらの懸念に対処できると主張しています。 実際、経験によれば、アクティブ化、操作、およびオーバーライドするためのユーザーコントロールにより、さらに多くのことが可能になります。 信頼性が高く、安全で、信頼できる システム、シュナイダーマンは主張します。

「HCAIの考え方を採用する設計者は、多様なユーザーが高度に自動化されたデバイスを操縦、操作、制御できるようにするための戦略を強調すると同時に、ユーザーに創造性を発揮して設計を洗練させるよう呼びかけます」と彼はHuman-CenteredAIに書いています。

人間とコンピューターの制御のバランス

エレベーター、カメラ、家電製品、医療機器など、何十年にもわたって使用されてきた成熟したテクノロジーは、自動化と人間による制御の適切なバランスを見つけることに成功したおかげです。

AIの進歩により、機械学習の統合への移行が進んでいます ディープラーニング アプリケーションに入ると、アプリケーションの設計パラダイムが変化しています。

たとえば、以前は、アプリケーションのグラフィカルユーザーインターフェイスには、ユーザーエラーの余地がほとんどありませんでした。 しかし、今日、の印象的なパフォーマンス 大規模な言語モデル 現在のAIシステムは、ユーザーコントロールを必要とせずに、自由形式の会話で信頼できるという幻想を生み出すことがあります。 同様に、 コンピュータビジョン AIシステムが人間の介入を必要とせずに画像を完全に分類できるという幻想を作り出します。

しかし、さまざまな 研究と事件 機械学習システムが予期しない方法で失敗し、重要なアプリケーションで信頼性が低下する可能性があることを示しています。 すべてのアプリケーションがこれらの障害によって同じように影響を受けるわけではありません。 たとえば、間違った製品やコンテンツの推奨は、小さな影響を与える可能性があります。 しかし、ローンや求職の拒否ははるかに損害を与える可能性があり、間違った医学的決定は致命的であることが判明する可能性があります。

明らかに、今日のアプリケーションは、安全性と堅牢性を犠牲にすることなく、機械学習の進歩を最大限に活用する必要があります。

「人間の制御とコンピューターの自動化を組み合わせた設計原理を見つけることは、特に輸送や医療における生命にかかわるタスクにとって、現在の大きな課題です」とシュナイダーマン氏は述べています。

近年、機械学習を実際のアプリケーションに統合するという課題に対処するための実用的な開発がいくつか見られます。 例えば、 説明可能なAI （XAI）は、複雑な機械学習モデルがどのように意思決定を行うかについての可視性と制御を提供するツールを開発するための研究の成長分野です。

XAIツールは、ディープニューラルネットワークの出力に最も貢献した画像内の領域またはテキスト抜粋内の単語を強調表示できます。 このような機能は、次のようなAIを利用したアプリケーションに統合できます。 医用画像ツール 人間の専門家がAIアシスタントの決定を信頼できるかどうかを判断するのに役立ちます。

信頼スコアの表示、複数の出力候補の提供、ユーザーインターフェイスへのスライダーコントロールの追加などの単純な機能でさえ、現在のAIシステムが直面するいくつかの課題を軽減するのに大いに役立ちます。 たとえば、レコメンデーションシステムのユーザーには、YouTubeが最近行ったように、表示されるコンテンツの種類を理解して制御するためのツールを提供できます。 これにより、コンテンツを最適化する不透明なアルゴリズムよりもはるかに優れたエクスペリエンスを提供できます。 必ずしもユーザーの幸福に貢献するとは限りません。

の 人間中心のAI、Shneidermanは、ビジュアルデザイン、予想されるアクションのプレビュー、監査証跡、ニアミスおよび障害レビュー、および信頼性、安全性、信頼性の確保に役立つその他のガイドラインを提供します。 基本的に、人間と人工知能の両方の限界を認識することにより、自動化された製品の設計者と開発者は、 人間とAIの間の正しい分業。

「やるべきことはたくさんありますが、組み合わせたソリューションが可能であり、望ましいという認識が最初のステップです」とシュナイダーマン氏は述べています。

HCAIを実用化する

の 人間中心のAI、Shneidermanは、HCAIを実際のアプリケーションに導入するための具体的な例とフレームワークを提供します。これには、安全で信頼性の高いHCAIシステムを作成するための4つの設計メタファーが含まれます。

スーパーツール AIとHCAIの考え方を組み合わせて使用​​し、製品やサービスの価値と受容性を向上させます。 例としては、音楽を選択するためのスライダーや、eコマース検索を絞り込むためのチェックボックスなど、AIガイド付きレコメンダーシステムを操作するための制御要素をユーザーに提供することが含まれます。

Telebots 「コンピューターは人ではなく、人はコンピューターではない」ことを認めます。 テレボットは、これらの違いを受け入れ、両方の長所を増幅する相乗効果を生み出すように設計されています。 テレボットの設計者は、人間の知性の要素を複製しようとする代わりに、高度なアルゴリズム、巨大なデータベース、超人的なセンサー、情報が豊富なディスプレイ、強力なエフェクターなど、独自のコンピューター機能を活用します。 同時に、それらは人間が高レベルで、敏感で、重要な決定をすることを可能にする機能を提供します。 この種の設計は、外科用ロボット、金融市場のソフトウェア、およびテレオペレーションロボットで見ることができます。

The コントロールセンター 比喩は、信頼できる自律には人間の監督が必要であることを示唆しています。 コントロールセンターは、人間による監視を可能にし、継続的な状況認識をサポートし、何が起こっているのか、次に何が起こるのかについての明確なモデルを提供します。 コントロールセンターは、情報が豊富なコントロールパネル、各アクションに対する広範なフィードバック、および遡及的調査を可能にする監査証跡を提供します。 「多くのアプリケーションでは、コントロールセンターは人間による監視の機会を増やす可能性があります。 迅速な対応が自律的な活動を必要とする場合、細心の注意とパフォーマンスの継続的なレビューは、より安全な運用を実現するのに役立ちます」とシュナイダーマンは書いています。

The アクティブなアプライアンス 比喩は、擬人化されたデザインを追いかけるのではなく、AIシステムを最適化して真の人間のニーズに対応する必要があることを示唆しています。 銀行の出納係のようには見えませんが、ユーザーの問題を解決するのに非常に効率的なATMマシンを考えてみてください。 したがって、AIとロボット工学の研究の進歩により、可能な限り最も効率的な方法で問題を解決する道を歩むことができるはずです。 興味深い例は ボストンダイナミクス、科学研究と実際のアプリケーションの間の適切なバランスを見つけようとしています。 同社は、 ヒューマノイドロボット。 同時に、その最新の商品、 ストレッチ、人間の労働者のようには見えませんが、より高い効率で木枠や箱を持ち上げたり移動したりできます。

「HCAIの考え方は、危険を制限し、成功する製品とサービスが標準である安全文化を創造する上でビジネスリーダーを導く新しい技術を設計する方法を明らかにします」とシュナイダーマンは言いました。 「目標は商業的な成功以上のものであることを忘れないでください。 私たちは、人間の創造性、責任、持続可能性、社会的つながりを促進したいと考えています。 それを超えて、私たちは自己効力感を高め、喜びをもたらし、思いやりを広め、人間の尊厳を尊重したいと思っています。」

この記事はもともとベンディクソンによって公開されました TechTalks、テクノロジーのトレンド、それが私たちの生活やビジネスのやり方にどのように影響するか、そしてそれらが解決する問題を調査する出版物。 しかし、テクノロジーの邪悪な側面、新しいテクノロジーのより暗い意味、そして私たちが注意する必要があることについても説明します。 元の記事を読むことができます ここ。