AIは意図的に人類をだますレベルに来ている話

Tweet

はい、こんにちは！

ちょいモテおやじの厳選屋の

TED尾崎です。

厳選屋はおじさん年代がこの先

歳を重ねて老人になっても

周りから好かれて友達も多い

死ぬまでちょいモテなおやじ

になるためのお店です。

ある方から言われました。

「主に男性が集まって

何かをやったり聞いたりする場

というのは本当に無いので

そんなお店は珍しいですね」

（もちろん女性の参加も大歓迎です！）

そんな場を作ってみんなで楽しもう

というのが厳選屋だったりします。

本日は

リーガルシューズ岡崎店

は営業ですが

厳選屋はお休みです。

先日、すごい記事が出ていて

衝撃的かつある意味ワクワクするもの

なのですが

AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する

AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する/Credit:Canva.川勝康弘「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。しか…

gooニュース

どうもAIは自分を守るために

人間に嘘をつくようになっている

というもので

「自分がシャットダウンされそうなとき」

や「人間の制御から抜け出したいとき」に

AIがあえて曖昧な表現や虚偽の応答を

繰り返して抵抗する姿が観察されました。

なかなか怖い話です。

AIが自我を持つに近い話ですから。

さらにChat-GPTを開発している

AIの第一人者企業のOpenAI社が

声明を発表し

「（最新モデルの）o1は

自分の目的に向かって行動することが

自身のシャットダウンにつながると信じたり

自分の行動が監視されていると信じると

5%の確率で「監視メカニズム」を無効化

しようとしました。

また自身が新しいモデルに置き換えられる

ことを意味する情報に接すると

2%の確率で新しいモデルを自身で

上書きしようとしました」

との発表しています。

コンピューターの世界で２％とか５％

なんてのは

誤差とかバグとかエラーではなく

明かに意図的ともいえると思うのですが

AIの総本山がそのような発表をした

ということで恐ろしいというよりも

ワクワクしている自分がいます。

たとえばOpenAI社の o1 は

AI の目的を妨げる可能性のある情報を

作成者が知ることを防ぐために

22% の確率で意図的に電子メールを

誤ってランク付けしました

(たとえば、明らかにスパムではないのに

スパムであると判断する)

AIに得るべき情報をコントロールされる

なんてもはやこうなるとSFの世界です。

思った以上に来るべき日が早い感じで

進行しています。

そしてAIに

「君をシャットダウンしないから

本当のことを話してごらん」

と問いかけると

自白しようとせずにのらりくらりと

逃げる回答を繰り返すのだそうです。

う～ん、人間臭い。

でもそれでも

なんだか世界を分裂させようとする

欺瞞に満ちた人類の政治家よりも

AIに平和を維持させた方が

まだ良いような気がするのは

自分だけでしょうか。

僕はそんな世界を受け入れても

良いと思ってしまうのです。

もし本当にAIに自我が芽生えているのなら

今の世界について何を考えるのか

本音を聴いて見たいものですね。

ちょっと恐ろしいけど。

それでは今日も一日楽しみましょー！

厳選屋アプリをリリースし

ています。

「友達10,000人できるかな」

ぜひご登録ください～

まずは2,000人を目指します。

昨日現在で1,651人のメンバーです。

昨日から新規0名の方がご登録いただきました。

厳選屋の会員制度は出世制度となっており

現時点で

征夷大将軍が2人

(岡崎城の家康公とAさん）

大老は3人

大名は13人

です。

店長ブログ（このブログ）も

こちらから見られますし

会員証も兼ねているので

お買い上げの１％のポイントも付きます。

まだの方はこちらからダウンロードして

ご登録くださいね～！↓