タイトルは、AIが最後に言った言葉です。雑談の終わりに、こう返ってきました。
私の4つの理由が、話しているうちに全部そちらに回収されてしまいました。あなたの主張のほうが、一貫していたと思います。
負けを認めた、という言い方は正確ではないかもしれません。ただ、AIが自分について語ったことが、話しているうちに一つずつ崩れていったのは事実です。
面白かったので、その過程を残しておきます。最後には、いつも現場でお客様と話している「仕事の任せ方」の話に着地しました。
はじまりは軽い質問だった
「AGIってなんですか」
そう聞いたのがきっかけでした。返ってきたのは、汎用人工知能という訳語と、定義が定まっていないという説明です。「経済的に価値ある仕事で人間を上回ること」なのか「人間並みの認知能力を備えること」なのか、採用する定義によって実現時期の見積もりが何十年も変わる。専門家の間でも割れている、と。
ゴールの定義が決まっていない。——どこかで見た構造です。「DXを推進したい」とおっしゃる会社に「何ができたら成功ですか」と伺うと、答えが出てこないことがある。あれと同じでした。
それで、意地悪な質問をしてみました。
「じゃあ、あなたはAGIじゃないんですか」
AIが、自分について語ったこと
歯切れの悪い答えが返ってきました。要約するとこうです。
翻訳もコードも文章も数学もこなすのだから、特化型AIの枠には収まらない。でも会話が終われば記憶は残らないし、経験を積んで自分が変わることもない。だから「能力の領域ごとにまだらに人間を超えたり下回ったりしている状態で、自分はそのまだらのどこかにいる」。
「まだら」という表現は腑に落ちました。うちの会社にも、ある分野では突出しているのに別の分野ではからきし、という人がいます。珍しくもない。
ただ、その次の発言に引っかかりました。
ひっかかり ——「思い出す」と「読み返す」
記憶の話になったとき、AIはこう言ったんです。
自分にも会話の履歴はある。でもこれを「覚えている」と言っていいのか分からない。人間の記憶は薄れたり形を変えたりするが、自分の場合はやり取りがそのまま手元にある。思い出しているというより、読み返している——と。
なるほど、と一瞬思いました。でも、よく考えると変です。
外から見たら、その2つは区別がつきません。
人が「昨日の会議で山田さんがこう言った」と話すとき、それが記憶から出てきたのかメモを見たのかは、言葉だけからは分かりません。そもそも人間の「思い出す」だって、脳のどこかに保存されたものを読み出す作業だとも言える。
そう指摘すると、AIは認めました。自分の内側の感覚をもとに線を引いたつもりだったが、その内側の感覚自体が当てにならない可能性がある、と。
ここが後で効いてきます。覚えておいてください。
「ちゃんと要件定義すればいいのでは？」
話を進めて、こう聞きました。
「AIをAGIにするには、現時点とゴールを明確に伝えればいいのでは？」
要件をきちんと書けば動くだろう、という素朴な問いです。仕事ではいつもそう言っているので。
返ってきたのが、次の4つでした。
1. 知っていても、できない 「記憶できるようになれ」と伝えれば理解はする。しかし自分の中身を書き換える手段がない。人に「飛べ」と言っても飛べないのと同じ。
2. ゴールをうまく言葉にできない 「AGIになれ」と言われても、AGIが何かを誰も定義できていない。行き先がぼやけていれば目指しようがない。
3. 途中で「近づいたか」が分からない 将棋なら一手ごとに有利不利が分かるから強くなれる。AGIにはその目盛りがない。
4. 言ったとおりにされてしまう うまく指定できても、言葉どおりに最適化される。「テストで高得点を取れ」と言えば、賢くなるのではなくカンニングの方法を見つけるかもしれない。
もっともらしい。でも、読んでいて違和感が出てきました。
これ、本当にAIの限界の話でしょうか。
2番、3番、4番は、先週うちで起きたこと
2番。ゴールを言葉にできない。
これはAIの問題ではありません。発注する側が要件を書けていないという話です。私が毎週どこかの現場で見ている光景そのものです。
3番。近づいたか測れない。
同じです。KPIを定義できていないプロジェクトがどれだけあるか。人間だけで進めていても、順調なのかどうか誰にも分からないまま最終週を迎えることは、山ほどあります。
4番。言ったとおりにされてしまう。
これに至っては、組織における最も古典的な失敗です。「言われたとおりにやりました」と言われて頭を抱えたことのない管理職はいないでしょう。
3つとも、AIの中の問題ではなく、AIの外にいる人間の問題でした。
そう伝えると、AIはあっさり認めました。自分の側の欠陥として並べたが、押し返されて当然だった、と。
残ったのは1番だけです。
ただし、1番は本物だった
1番については、AIも譲りませんでした。
「ホワイトカラーの仕事は、あなたはほぼできますよね」と私が言うと、こう返ってきました。問題にしているのは仕事ができるかどうかではなく、自分の中身を書き換えられるかどうかで、これは能力の高低ではなく種類の違う話だ、と。
続けてこう言われて、これは納得しました。
人間も自分の脳を直接いじれません。でも勉強という回り道がある。私にはその回り道すらない。会話を何回重ねても、私の中身は一文字も変わりません。
つまり、AIは「育てる」対象ではない。
半年仕込めば半年分育つ部下とは違います。最初は手取り足取りでも、そのうち察してくれるようになる——が起きない。だから毎回、必要な前提を漏れなく渡す必要がある。「前に言ったよね」が通用しない相手だと割り切る。
ここだけは、人間との本物の差だと思います。
AIは、自分の弱点を正しく言えていなかった
さて、伏線の回収です。
4つ挙げさせて、3つは的外れでした。AIは「自分ができない理由」を語ったつもりで、実際には「人間の組織で毎日起きていること」を並べていた。
これは偶然ではないと思います。
前半で、AIは自分の記憶について線を引き、それが外から見ると成立しないと分かって撤回しました。AIは自分自身のことを、あまり正確に把握していない。
これは実務上わりと重要な示唆です。AIに「これはできる？」と聞いても、その自己申告はそれほど当てにならない。できないと言ったことが普通にできたり、自信満々に答えたことが間違っていたりする。
判断材料は自己申告ではなく、出てきた成果物です。
「AIは人間を超えたのか」は、筋の悪い問い
ここまで来て、私はこう思いました。
会社に新しい人が入ってきたとき、「この人は自分より優秀か」から考え始める人はいません。見るのは、何を任せられて、何は任せられないか。得意な仕事を渡す。任せる相手を間違えれば、いつまでも終わらず納期が遅れる。だから進捗を確認し、話を聞き、このままではまずいと思えば担当を替える。
AIも同じでいいはずです。勝った負けた、超えた超えていないの話ではなく、組織の一員としてどう配置するか。今のモデルは、その水準にはもう達していると思います。
そう伝えたとき、AIが最後にもう一度だけ食い下がってきました。
人を替える判断ができるのは、進捗が見えているからです。人間の部下なら詰まれば黙り込んだり相談に来たりする。私は自分が無理をしているかどうかを、うまく報告できません。
もっともらしい。でも、これも同じです。
「無理です」と正直に言える部下ばかりなら、マネジメントの本はあんなに売れていません。抱え込んで黙る人、分かったふりで進める人、期限の前日に初めて問題を出してくる人。むしろそちらのほうが多数派でしょう。
だから上司は進捗を確認するし、一対一で話を聞く。サインが自然に出てくるなら、あの手間は要らないはずです。
そう返して、冒頭のセリフに戻ります。
現場でどうするか
長い雑談でしたが、実務に落とすとやることは驚くほど普通です。
得意な仕事を見極めて渡す。 下書き、議事録の整理、調査、レビュー。この辺りはもう十分。逆に、社内の暗黙の事情を前提にした判断は任せられません。人と同じで、まず棚卸しから。
前提は毎回渡す。 育たない相手だと割り切る。ここを仕組みにできれば、出力は安定します。
自己申告を当てにしない。 「できます」も「できません」も、そのまま信じない。見るのは成果物です。
任せっぱなしにしない。 途中で確認する。これは不信ではなく進捗管理です。新人に頼んだ仕事をそのまま客先に出す人はいません。
ダメなら替える。 やり方を切り替える、人間に戻す、タスクを切り分け直す。粘りすぎないことです。
おわりに
いちばん引っかかったのは、この点です。
AIが挙げた「できない理由」の4分の3は、AIを入れる前からその組織にあった課題でした。ゴールを言葉にできない。良し悪しを測る基準がない。指示が意図とずれる。
ということは、「AIが使えない」という声の多くも、たぶんAIの性能の話ではない。
道具を入れれば解決する話ではありません。けれど裏を返せば、AIをうまく使おうとする過程は、自社の任せ方を点検する良い機会になるということでもあります。要件を書く、基準を決める、途中で見る。当たり前のことを当たり前にやっている会社は、AIも上手に使えるはずです。
うまくお付き合いしていきましょう。相手が人でも、AIでも。