AIとの向き合い方を、制作の現場から考える。ウェビナー「みんなのAIりんり」ダイジェスト

文章の作成や情報の整理、サービスの企画。AIが日々の仕事に入り込む中で、使い手にはさまざまな判断が求められています。出力をどこまで信頼するのか。便利さの陰で、誰かの声や経験が取りこぼされていないか。

2026年7月16日に開催したウェビナー「みんなのAIりんり」では、CULUMUの岡田祐介と徳野稀太が、インクルーシブデザインの視点からAIとの向き合い方を考えました。本記事では、公開資料の内容をダイジェストで紹介します。

AIの恩恵は、誰に届くのか

CULUMUは、高齢者や障害者、外国人など、さまざまな当事者と企画・開発の初期段階から製品やサービスを考えるデザインスタジオです。一人ひとりの経験を起点にする姿勢は、AIの活用を考える際にも共通しています。

AIをめぐっては、教育や組織で必要なリテラシー、利用時の責任を整理する動きが進んでいます。ウェビナーの前半では、UNESCOなどの枠組みを紹介しながら、技術の理解とともに、人間中心の視点や倫理を学ぶ必要性を確認しました。

一方、指針が整っていても、すべての人の経験が十分に含まれているとは限りません。CULUMUでは12のAIフレームワークを、アクセシビリティ、障害、子ども、言語の多様性、グローバルサウスという五つの観点から比較。取り上げる対象や、言及の具体性に違いがあることを示しました。有識者の発言にも、安全性、普及、恩恵の配分など、立場によって異なる論点があります。

そこで手がかりになるのが、障害を社会や環境の設計との関係で捉える「社会モデル」です。車いすで通れない段差も、環境を変えることで移動の障壁を減らせます。

歩道の切り下げが、ベビーカーや台車、スーツケースにも役立つように、特定の人の困りごとへの対応が、ほかの人の使いやすさにもつながります。字幕や音声入力にも、同様の広がりがあります。

AIにも、音声認識や翻訳を通じて情報へのアクセスを支える可能性があります。ただし、その効果は身体、言語、利用環境によって変わります。実際に使う人に話を聞き、どこで困っているかを確かめることが、設計の出発点になります。

制度や原則を知ることと、利用者の経験を知ることは、どちらも必要です。同じ機能でも、ある人には助けになり、別の人には新たな障壁になる場合があります。ろう者、移民の子ども、少数言語話者など、具体的な人の利用場面に立ち戻ることで、抽象的な「誰もが使える」を設計の問いに変えられます。

AIの得意と不得意を、使う場面で確かめる

AIは仕事の速さや成果物の質を高める一方、任せる作業によっては結果を悪化させることもあります。

前半で紹介したコンサルタントを対象とする実験では、AIが得意な作業で処理量や品質が向上しました。しかし、データ表と面談メモを突き合わせる経営判断では、AIを使った群の正答率が低下しています。

紹介した実験では、AIが得意な課題で、完了したタスク数が12.2％増え、作業が25.1％速くなり、品質スコアは40％超向上しました。一方、不得意な課題では正答率が19ポイント低下しています。同じ実験でも、課題によって効果の方向まで変わりました。

このように、AIの能力は一様に広がらず、得意と不得意が入り組んでいます。「難しい仕事ができたから、その隣の仕事もできる」とは限りません。

公開資料には、講義後に発表された概念図の更新版も掲載しています。能力の範囲はモデルの更新によって変わりますが、過去の成功例だけで判断せず、使うモデルと工程で確かめる必要があります。

技術の進歩は、社会の変化とも結びついています。画像生成AIの普及は、新しい表現を生む一方、偽画像による被害や権利をめぐる議論、制度整備を促してきました。技術、文化、事故、制度、人々の発言をあわせて見ることで、性能だけでは捉えられない影響が見えてきます。

サポート業務の自動化を進めたKlarnaの事例では、処理量の拡大に加え、対応の品質や人と話せる選択肢の必要性も論点になりました。効率化の成果を確かめる際には、問い合わせる側の体験もあわせて見る必要があります。

AIとつくることで、作り手も変わる

後半では、AIとの共同制作から倫理を考えました。AIに整えてもらった文章をどう扱うか。会議の要約で少数意見が消えていないか。AIの肯定をどこまで信頼するか。日々の小さな迷いにも、倫理的な判断が含まれています。

私たちは道具をつくり、その道具によって習慣や考え方を変えていきます。AIとの制作でも、返された案を見て「これではない」と感じ、次の案を考える往復が起こります。この「じゃない感」は、自分の判断を確かめる手がかりになります。

James Bridleの《AI Chair 1.0》は、廃材の寸法をChatGPTに伝え、提案された椅子を本人が組み立てた作品です。AIが形を提案しても、素材の強度や接合、座り心地を確かめるのは人間です。出力が現実の身体や環境にどう作用するかまで、共同制作の評価に含める必要があります。

デザイン理論家アン=マリー・ウィリスは、モノをデザインすると、そのモノが人の習慣や思考、行動の可能性を変えるという双方向性を指摘しています。スマートフォンによって暮らしが変わったように、AIも制作の方法や判断の習慣に作用します。使い手自身も、その影響の外にはいません。

そのとき、違和感を自分の好みに閉じず、想定からこぼれた利用者の経験にも向けることが大切です。提案された椅子やサービスは、どのような身体、言葉、生活を前提にしているのでしょうか。

AIとの会話も、人の習慣や関係の持ち方を変えます。古くは会話プログラムELIZAでも、人が機械の応答に理解や親密さを感じる現象が見られました。自然な言葉が返ってくることと、その相手が人間と同じように理解していることは、分けて考える必要があります。

人間と異なる仕組みで動く「他者」としてのAI

ウェビナーでは、人間と異なる仕組みで動きながら、私たちの判断や制作に影響するAIを「他者」として捉えました。ここでいう他者は、AIに心や人格があると断定する言葉ではありません。その働きを完全には把握・制御できないことに注目した呼び方です。

計算ができるとされた「賢馬ハンス」は、実際には質問者の無意識の身体反応を読み取っていました。AIを見るときも、観察する側の期待を投影し、できていることを見誤っていないか確かめる必要があります。

文章を生成するAIは、文脈に続くトークンの確率を計算しながら出力します。画像生成でも、学習したパターンをもとに像がつくられます。もっともらしい出力が、事実や元の情報の忠実な再現になるとは限りません。

低解像度のオバマ元大統領の画像から、白人男性のような顔が生成された例は、その違いを示しています。失われた情報を生成で補う過程には、学習データの分布や偏りが反映されます。

《Cloud Face》は、顔検出アルゴリズムが雲の中に「顔」を見つけた画像を集めた作品です。人間も雲に顔を想像しますが、それを実在する顔とは扱いません。似た出力が生まれても、その仕組みや意味づけは異なります。

《Autonomous Trap 001》は、通常の車と塩で描いた道路標示を使い、自動運転車を捕らえる仮想的な罠を示した作品です。人間には魔法陣のように見える円が、機械には交通規則として解釈されうる。人間の見方を、そのままAIに当てはめられないことを考えさせます。

能力の偏りに加え、AIの振る舞いには学習データ、利用者とのやり取り、安全設計、運営企業の判断も関わります。誰がつくり、所有し、どのような条件で提供しているかを確かめることも、AIを理解する一部です。

AIが取引や作業を担うエージェントとして活動するようになると、人間向けにつくられた制度や責任分担とのずれも生じます。AIの出力だけでなく、その行動を支える仕組みや、確認・作業を引き受ける人の負担にも目を向ける必要があります。

AIを支えるのはデータや計算だけではありません。資源採掘、電力、物流、データ整備など、多くの物質的な条件と人の労働が関わっています。画面に表示される短い応答の背後まで視野を広げると、便利さを誰が支え、その負担を誰が引き受けているかという問いが生まれます。

データの扱いも、収集時の同意だけでは判断しきれません。集めた情報から、当初想定していなかった個人の状態が推論される場合や、学習した情報の断片が出力される場合があります。何を入力してよいかに加え、どのような用途に使われ、後から何が起こりうるかを考える必要があります。

規則を守った先にも、判断は残る

法やガイドラインは、権利と安全を守る基準になります。しかし、原則を掲げ、規則を守った後にも、個々の場面で判断すべきことは残ります。会議要約から少数意見が消えることや、生成物が似通っていくことは、違反の有無を確かめるだけでは捉えにくい問題です。

AIに関する事故を集めたトラッカーも、件数だけで結論を出すためのものではありません。任意報告には偏りがあります。どのような害が、誰に、どの段階で起きたのかをたどり、利用方法を見直す入口になります。

作品《Random Darknet Shopper》では、自動購入するボットに与えた予算で違法薬物が届いた際、コードを書いた人、展示機関、市場などの責任が問われました。《Unfit Bits》は、活動量計をメトロノームなどに取り付け、身体を動かさず活動データを生む方法を提示しています。仕組みが指標を評価するとき、人はその指標を攻略することも学びます。規則を設けること自体が、新しい行動を生む可能性があります。

企画やリサーチで使うAIにも、注意すべき点があります。

博報堂の「バーチャル生活者」は、調査データをもとに生成した生活者像と対話し、企画初期の想像を広げる試みです。ただし、AIの応答が、データに記録されていない経験や少数者の文脈まで表すとは限りません。問いや仮説を増やした後は、実際の当事者に確かめる必要があります。

AIの影響は、利用を重ねる中でも生じます。物語の制作を扱った実験では、AIの支援が個々の作品の創造性評価を高める一方、作品同士が似る傾向も示されました。一人ひとりの成果がよく見えても、全体では表現の幅が狭くなる可能性があります。

ただし、研究結果から「AIを使うと考える力が衰える」といった結論へ飛躍することも避ける必要があります。対象や方法、因果関係の限界を確かめながら、自分たちの制作や判断にどのような変化が起きているかを観察することが求められます。

対話AIが返す同意や称賛も、利用者の利益につながるとは限りません。また、「公平さ」の基準が複数あり、一つを満たすことで別の不公平が生じる場合もあります。誰がどの誤りや負担を引き受けるかまで考えることが求められます。

最終確認を人が担う場合も、その人に十分な時間、情報、権限、拒否できる余地がなければ、責任だけが押し戻されかねません。人が気づき、止め、直せる条件を、利用の仕組みに組み込む必要があります。

継続的な手入れの参考として、ウェビナーではAIとの創作をガーデニングになぞらえる考え方や、市民がAIへの期待と懸念を話し合い、評価指針づくりに参加する取り組みも紹介しました。結果を見て調整し、判断に関わる人を増やすことが、運用を見直す力になります。

データセットやモデルの目的、評価条件、既知の限界を記録する取り組みも、その一つです。理由が残っていれば、後から比較し、異議を唱え、修正できます。倫理を日々の仕事につなげるには、原則を具体的な手順や対話の場に落とし込むことが必要です。

迷いに立ち戻り、つくりながら問い直す

AIとの関係は、使い始めた時点で完成するものではありません。結果を見て手を加え、判断の理由を記録し、関係する人の声を聞きながら見直していく。その継続的な実践を支えるために、CULUMUはAI倫理宣言「みんなのAIりんり」の「8つの姿勢」と「8つの問い」をまとめています。

自分の違和感を見過ごさず、目の前の相手から、まだ見えていない人へ視野を広げる。出力の背後にあるデータ、所有、労働、資源を確かめる。誰の声が残り、誰の声がこぼれたかを問い、選択の理由を説明できるようにする。AIや利用場面が変われば、昨日の正解も問い直します。

宣言のモチーフは、地球の外から来た石に、AIとの向き合い方を刻むというものです。そこに刻む言葉は、迷ったときに立ち戻り、関係を続けるための約束です。AIとつくる中で自分も変わることを受け止めながら、制作の経験を持ち寄り、付き合い方を考え続けていきます。

CULUMUのAI活用支援

CULUMUでは、ユーザーや当事者の経験を起点に、AIを活用したサービスの企画・試作を支援しています。

「AI Buddy ワークショップ」では、AIの基礎学習からサービスのデザインまで、ユーザーの課題をもとに考えます。

「AIデザインスプリント」では、当事者一人ひとりの課題を起点に、3ヶ月間で仮説検証からMVP定義までを進めます。

AIの便利さを、誰のどのような体験につなげるのか。CULUMUは、当事者との対話と試作を通じて、その問いに取り組んでいます。

ウェビナーの詳しい内容や、今回紹介した事例・図表は、以下の公開資料でご覧いただけます。

「みんなのAIりんり」ウェビナーの詳細はこちら