AIに「やらせない」仕事は、頼むのではなく、できなくしておく
Share
以前の記事で、AIに任せる仕事と任せない仕事の線引きについて書きました。責任が発生する最後の工程は自分に残す、という話です。
今回はその続きで、「任せないと決めた仕事を、どうやって守るか」を書きます。線を引いただけでは、守られないことがあるからです。
「やるな」と書いておけば守られる、と思っていました
AIに仕事を頼むとき、たいてい指示は文章で渡します。なので最初のころは、任せない仕事も文章で伝えていました。「これは公開しないで」「この操作は確認してから」と、指示の中に書いておく方法です。
たいていは守ってくれます。ただ、この「たいてい」が問題でした。
指示が長くなるほど、ひとつひとつの「やるな」は埋もれていきます。人間でも、10ページの手順書の3ページ目に書いてある注意書きは見落とします。AIも同じで、文章で書いた「やるな」は、お願いでしかありません。守ってくれることが多いだけで、担保にはなりません。
ここに気づいてから、考え方を変えました。
警告が鳴る車より、100km以上出ない車
たとえ話をひとつ。
時速100kmを超えたら警告音が鳴る車と、どんなに踏んでも100km以上出ない車。安全なのは、後者です。警告は「気づいてもらう」仕組みで、止めるのはあくまで運転手です。一方、出ない車は運転手が何をしようと出ません。
AIに任せない仕事も、これと同じ形で考えるようになりました。「やるな」と伝えて止まってもらうのではなく、そもそもできない状態にしておく。私はいま、この順番で守っています。
- できないようにする — その操作の権限そのものを渡さない。AIが何を考えようと関係なく、走らない
- 直前で止める — 権限はあるけれど、実行する直前に中身を検査して、条件に合わなければ止める
- お願いする — 指示の文章に「やるな」と書く
上から順に強く、下に行くほど弱くなります。3は最後の網であって、最初の壁ではありません。
会社に置き換えると、鍵・警備員・張り紙です
これを会社の話に置き換えると、たぶんこうなります。
1は、鍵を渡さないことです。金庫の鍵を持っていない人は、開けようと思っても開けられません。2は、ドアの前に立つ人です。鍵は持っているけれど、出ていく前に中身を見て、おかしければ止めます。3は、張り紙です。「持ち出し禁止」と貼ってあるだけで、実際に止めるのは本人の良心です。
張り紙を100枚貼るより、鍵を1本渡さないほうが確実です。当たり前の話ですが、AIの話になると、なぜか張り紙で済ませたくなります。文章で伝えられるので、それが一番手軽だからです。
以前、AIを「1人の社員」として捉えるようになった、と書きました。この話もその延長にあります。新しく入った人に「本番のデータは触らないでね」と口頭で言うだけの会社は、たぶんありません。最初から触れない権限にしておくはずです。AIにも、同じことをするだけです。
私が「できない」にしている操作
具体的に、私の環境で「できない」か「必ず聞く」にしてある操作は、だいたい次の形のものです。
外に出ていく操作。お客様の目に触れる場所を書き換える、公開する、送信する。それから、元に戻せない操作。消す、上書きする。
逆に、読むだけ・下書きを作るだけ・自分の手元で試すだけ、の操作は自由にさせています。ここを縛ると、任せる意味がなくなります。
線引きの記事で書いた「責任が発生する最後の工程」と、ほぼ重なります。責任が発生する工程は、お願いで守るのではなく、権限で守る。そう決めてからは、AIの出力をいちいち疑わなくてよくなりました。何が起きても、外には出ないと分かっているからです。
安心して任せるための「できない」です
「やらせない」と聞くと、AIを信用していない話に見えるかもしれません。実際は逆で、これは安心して任せるための設計です。
出ない車だと分かっているから、アクセルを踏み込めます。鍵を渡していないと分かっているから、細かい作業は全部任せられます。「できない」を先に決めておくことで、残りの範囲は気にせず渡せるようになりました。
AIに何を任せるかを考えるとき、「何を任せないか」を決めるところまでは、多くの人がやると思います。そのあとに、もう一段あります。任せないと決めたことを、お願いではなく、できなくしておく。ここまでやって、線引きは完成だと思っています。