AIに「やらせない」仕事は、頼むのではなく、できなくしておく

以前の記事で、AIに任せる仕事と任せない仕事の線引きについて書きました。責任が発生する最後の工程は自分に残す、という話です。

今回はその続きで、「任せないと決めた仕事を、どうやって守るか」を書きます。線を引いただけでは、守られないことがあるからです。

「やるな」と書いておけば守られる、と思っていました

AIに仕事を頼むとき、たいてい指示は文章で渡します。なので最初のころは、任せない仕事も文章で伝えていました。「これは公開しないで」「この操作は確認してから」と、指示の中に書いておく方法です。

たいていは守ってくれます。ただ、この「たいてい」が問題でした。

指示が長くなるほど、ひとつひとつの「やるな」は埋もれていきます。人間でも、10ページの手順書の3ページ目に書いてある注意書きは見落とします。AIも同じで、文章で書いた「やるな」は、お願いでしかありません。守ってくれることが多いだけで、担保にはなりません。

ここに気づいてから、考え方を変えました。

警告が鳴る車より、100km以上出ない車

たとえ話をひとつ。

時速100kmを超えたら警告音が鳴る車と、どんなに踏んでも100km以上出ない車。安全なのは、後者です。警告は「気づいてもらう」仕組みで、止めるのはあくまで運転手です。一方、出ない車は運転手が何をしようと出ません。

AIに任せない仕事も、これと同じ形で考えるようになりました。「やるな」と伝えて止まってもらうのではなく、そもそもできない状態にしておく。私はいま、この順番で守っています。

  • できないようにする — その操作の権限そのものを渡さない。AIが何を考えようと関係なく、走らない
  • 直前で止める — 権限はあるけれど、実行する直前に中身を検査して、条件に合わなければ止める
  • お願いする — 指示の文章に「やるな」と書く

上から順に強く、下に行くほど弱くなります。3は最後の網であって、最初の壁ではありません。

会社に置き換えると、鍵・警備員・張り紙です

これを会社の話に置き換えると、たぶんこうなります。

1は、鍵を渡さないことです。金庫の鍵を持っていない人は、開けようと思っても開けられません。2は、ドアの前に立つ人です。鍵は持っているけれど、出ていく前に中身を見て、おかしければ止めます。3は、張り紙です。「持ち出し禁止」と貼ってあるだけで、実際に止めるのは本人の良心です。

張り紙を100枚貼るより、鍵を1本渡さないほうが確実です。当たり前の話ですが、AIの話になると、なぜか張り紙で済ませたくなります。文章で伝えられるので、それが一番手軽だからです。

以前、AIを「1人の社員」として捉えるようになった、と書きました。この話もその延長にあります。新しく入った人に「本番のデータは触らないでね」と口頭で言うだけの会社は、たぶんありません。最初から触れない権限にしておくはずです。AIにも、同じことをするだけです。

私が「できない」にしている操作

具体的に、私の環境で「できない」か「必ず聞く」にしてある操作は、だいたい次の形のものです。

外に出ていく操作。お客様の目に触れる場所を書き換える、公開する、送信する。それから、元に戻せない操作。消す、上書きする。

逆に、読むだけ・下書きを作るだけ・自分の手元で試すだけ、の操作は自由にさせています。ここを縛ると、任せる意味がなくなります。

線引きの記事で書いた「責任が発生する最後の工程」と、ほぼ重なります。責任が発生する工程は、お願いで守るのではなく、権限で守る。そう決めてからは、AIの出力をいちいち疑わなくてよくなりました。何が起きても、外には出ないと分かっているからです。

安心して任せるための「できない」です

「やらせない」と聞くと、AIを信用していない話に見えるかもしれません。実際は逆で、これは安心して任せるための設計です。

出ない車だと分かっているから、アクセルを踏み込めます。鍵を渡していないと分かっているから、細かい作業は全部任せられます。「できない」を先に決めておくことで、残りの範囲は気にせず渡せるようになりました。

AIに何を任せるかを考えるとき、「何を任せないか」を決めるところまでは、多くの人がやると思います。そのあとに、もう一段あります。任せないと決めたことを、お願いではなく、できなくしておく。ここまでやって、線引きは完成だと思っています。

ブログに戻る
Get started

まずは、60分の診断から。

御社の業務を棚卸しして「最初に作るべき1本」を特定し、浮く時間の試算つきの診断レポートをお渡しします。AI活用診断は60分・通常¥33,000のところ、いまは無料です。