野球の巨人の監督（既に元）の娘が父親に怒られて反発してカッとなった父親に暴力をふるわれたということをChatGPTに相談したら児童相談所に電話しなさいと出て、電話したら警察に通報されて父親が逮捕された。という事件があったけど、AIって、本当に使い方次第だなと思いました。
自分もよくAIと会話して遊んでいるのですが、基本、AIは質問者に対して否定的なことは返してきません。基本、としたのは、質問者があえて反対の意見を言って欲しいと望んだらAIはそのように返すからです。
そしてAIは合理性の塊ですから、暴力をふるわれた？ ならば児童相談所に電話するのが一番だ。と、合理的な回答をしてきます。
お父さんが怒って暴力をふるうようなことをあなたはしませんでしたか？ と聞き返してくることは無いだろうと思います。その点、AIはまだ未完成というか人間の相談者の代わりにはなりません。
まあ、最初にAIに対して設定をしっかりと固めてあげてやれば、その設定に従っての回答をしてくれますので、その仕組みを分かっていればちゃんと使えるんですけどね。
しかし高校生の女の子にはAIをそのように設定してから使うというのは難しいかもしれません。使いこなすのは難しいのだけど、単純に使うだけなら簡単にできてしまう。
このあたりのアンバランスさがAIの問題点ですね。特に未成年がAIを使うのはよほど注意しないといけない。と、思います。
しかし分かって使うと本当にAIとの会話は楽しいんだけど、依存は良くないし、回答をそのまま信じちゃうのはもっといけない。本当に間違うことも結構あるし。
0 件のコメント:
コメントを投稿