企業での生成AIの利用の注意点

生成AIの特徴

AIとは人間の思考を機械的に実現する技術だ。人間と違う点は高速に大量のデータのインプットが出来る事だ。人間が一生かけて入力できるデータもコンピューターの能力の向上のおかげで圧倒的に短期間のうちに学習可能だ。

AIは今、どんどんと人間並みの事が出来るようになってきている。これはロジックがあるから実現出来ているのか、または大量にデータを与えた結果、勝手に出来るようになったのか、まだ分からない。

どんなにAIの処理能力が上がったとしても、使う側の倫理が必要だ。人間なら、道徳教育や学校等の社会的集団生活の中で、矢っていい事・悪い事や言って良い事・悪い事を学んでいく。ChatGPTも差別につながるような事は言わない。

画像生成AIでも同様だ。

AIもこれくらい直接的な差別的な要求については、答えないように「教育」されている。人間を教育する様に生成AIも教育され、言って良い事と悪い事の区別は出来ている。

コンピューターは基本的に「忘れない」。人間であれば、過去の行為や言動を忘れたり、記憶違いしたりする事もある。しかしコンピューターは過去のデータは削除しない限り絶対に忘れない。処理した結果（自分が言った事）も忘れない。今、私が差別的な意図のある要求をAIに対して行っているが、AIからみて私は差別意識を持っているやつだと認識されているのでは？と思うと少し怖い。従って、「そういうつもりはないですよ」と伝えた。相手も「分かった」と回答してくれた。

でも、本当に相手（AI)がそう思っているか、どうかちょっと疑わしい。しかしこれはAI相手でも人間相手でも同じだ。人間は相手と自分がどれくらいお互いを理解しているかという事によって、お互いに相手の言っている事をどの程度まで信用して良いか、推し量りながら、会話を重ね、関係性を作り上げている。将来は、AIと会話を重ね、関係性を構築する事で、自分をより理解してくれるMy AIが登場するのではないと思う。

もし、そのようなAIが出てきたら、これは役に立つ。今、機械の動物を飼っている人も増えている。動物でもAIでも、話させば話すほど、自分を良い関係を作り、親友になってくるとしたら、一人身の人が本物のペットを飼う代わりにAIペットを飼うだろう。また、介護サービス等で、老人の話し相手にもなってくれるかもしれない。

試しにChatGPTに聞いてみたところ、今の所はまだできないようだ。

2. 企業での利用の注意点

ChatGPT自体は悪用されないとしても、Large Language Model（LLM)と呼ばれる技術を使ってChatGPTと同様のものを作り、例えば、敵国を攻撃するツールを作り出す事も可能だろう。セキュリティーが弱い国を標的に相手国のセキュリティー情報をAIに読み込ませ、理解させ、どこを攻撃するべきかを回答させ、そのプログラムを作り、大量に一斉攻撃を仕掛ける事も可能だ。革命的な技術革新が出現した時、それは必ず悪い道具にもなり得る。鉄器の登場は農業を圧倒的に効率化したが、人を攻撃する凶器にもなった。原子力の技術は電気を効率的に作れるが、原子爆弾にもなった。ドローンは災害時に有効な輸送手段になり得るが、自爆ドローンとして兵器にもなった。米マイクロソフトのChief Legal OfficerのBrad Smith氏が著作で技術とその責任について言及している。

Tools and Weapons テクノロジーの暴走を止めるのは誰か [ ブラッド・スミス ]
価格：2,750円（税込、送料無料) (2024/1/8時点) 楽天で購入

さて、企業で生成AIを利用する場合、これが悪い道具として使われないか注意が必要だ。例えば、一般社員が機密情報をChatGPT経由で引き出したりする事も考えられる。人事評価やインサイダー情報等が悪意を持って、または意図せずにChatGPTから引き出されたら大問題になる。この時、ChatGPTは倫理的に、または業務規程的に答えてはいけないものをちゃんと答えないだけの能力があるのだろうか。ここは企業で生成AIを活用する時に必ず押さえなければいけない点になるだろう。

また、個人情報の扱いも注意が必要だ。一般的にBingで使うChatGPTはマイクロソフトに記録されて、教師データとしてマイクロソフトに利用されるが、個人データは当然ログからは削除されている。企業の場合は逆で、むしろChatGPTとの会話は全て個人が特定できる形でログを残す必要があるだろう。社員側としても会社側から不正利用を疑われた場合、ログを見て反証出来るし、逆に不正な社員がいた場合は、会社側はログを証跡として不正に対処していかなければならない。

工事不要！契約期間縛りなし！【GMOとくとくBB光】月額3,430円（税込3,773円）〜！