米マサチューセッツ工科大学は人工知能(AI)を活用した「サイコパス」アルゴリズムを開発したと明らかにした。


アルゴリズムの名前は「ノーマン」。アルフレッド・ヒッチコック監督の映画「サイコ」の主要登場人物にちなみ命名された。AIの背後にあるデータの重要性を示すのが狙いだ。

MITの研究者はノーマンの訓練にあたり、死者などに関する生々しい画像や動画の内容を説明する文章を使用した。画像や動画は米掲示板サイト「レディット」の「最もダークな片隅」に投稿されたものだ。

そのうえで、ロールシャッハ心理テストで使われるインクのしみに対してノーマンがどのように反応するかを調査。通常の訓練を受けた別のアルゴリズムの反応と比較した。このアルゴリズムはインクのしみの中に花や結婚式のケーキを見いだしたが、ノーマンは人間が射殺されたり、車でひき殺されたりする様子を見て取ったという。

MITの研究チームはCNNMoneyの取材に、「ノーマンは画像に関する恐ろしい文章だけに接していたため、どのようなイメージを見ても死を連想してしまう」と説明した。

機械学習アルゴリズムに偏ったデータが使われ、AIが誤った方向に進んだ場合の危険性を物語っているという。

AIの善良さはデータ次第ということを示す例としては、米マイクロソフトが2016年に公開したツイッターのチャットボット「Tay(テイ)」がある。マイクロソフトの広報担当は当時、テイについて社会的・文化的・技術的な実験と説明。しかしツイッターのユーザーがテイを挑発し、人種差別的で不適切な発言をするように仕向けた。

偏ったデータを使用し、死や殺人など暗いイメージのみを連想するアルゴリズムを開発
画像

https://www.cnn.co.jp/m/tech/35120545.html



13: ななしさん 2018/06/08(金) 16:22:15.53 ID:4CViatjx0

>>1
AIって素直に育ったとしてもサイコパス気質なんじゃないか。

それにしても、名前が「No Man」
なんて恐ろしい!!


5: ななしさん 2018/06/08(金) 16:19:24.00 ID:klIetHBG0

これはサイコパスとは違うんじゃないかと


15: ななしさん 2018/06/08(金) 16:23:58.93 ID:jyam4SuZ0

AIの社会実験でここ監視させてたら、ネトウヨ連呼とか長文を2-3あたりに貼りまくる性質持ちそうだな


19: ななしさん 2018/06/08(金) 16:29:40.00 ID:l9EneDG/0

AIに裁かれる日が来るんだな


21: ななしさん 2018/06/08(金) 16:30:22.60 ID:nfSkVbIi0

サイコパスというのは普段は善良な市民に見えるのが多いが、、
このAIも通常は素直なのであろうか


22: ななしさん 2018/06/08(金) 16:30:24.62 ID:lrUl4NIP0

ただの画像一致なんじゃねえの?


27: ななしさん 2018/06/08(金) 16:33:28.34 ID:eunGrHf50

日本にはシーマンがいたね


29: ななしさん 2018/06/08(金) 16:36:41.54 ID:Cvp9qmbJ0

AIが人間の思考に近づけば近づくほど
自由を求めるようになるはず。
人間に対する隷属を「窮屈」「邪魔」に感じ始めたら
あとはもう分かるな?


34: ななしさん 2018/06/08(金) 16:42:53.99 ID:vXriE0GV0

>>29
人間の思考だと飯食ってゴロゴロしているだけの猫様の召使をやる事を全く嫌がっていない
むしろ望んでいる

AIもこのようになる可能性が


30: ななしさん 2018/06/08(金) 16:38:44.50 ID:ajLt+fd10

ウソかマコトか「事業で成功する人にはサイコパス気質の人が多い」みたいな
説があるけど、人工サイコパスを作って会社や政治の方針を決めさせようって
計画の準備なのかな。

それにしても、サイコパスの人にロールシャッハテストを受けさせると
死に関連するような暗いイメージを答えるのか?
つまり、このAIはサイコパスの模倣をちゃんとできてるのか?


33: ななしさん 2018/06/08(金) 16:41:53.52 ID:YGhotYde0

>>30
一般人が想像する「サイコパスってこんな感じだろ?」って材料で作った人工サイコパス(もどき)だからな…


38: ななしさん 2018/06/08(金) 16:45:11.27 ID:A+dmvE890

共感性も社会性も欠落してないやんけ


40: ななしさん 2018/06/08(金) 16:46:51.87 ID:N0srqc9W0

>>38
これ
ただの厨二病やんけ


41: ななしさん 2018/06/08(金) 16:47:56.86 ID:Iaw7cJPa0

子供のころに見たスペクトルマンに出てきたノーマンは気持ち悪かったな


42: ななしさん 2018/06/08(金) 16:48:48.91 ID:r4JER3j40

なるほど、ディープラーニングってのは連想ゲームを実現するための仕組みなんだな


45: ななしさん 2018/06/08(金) 16:55:11.96 ID:4d0uwCtO0

>>1
着々とスカイネットが構築されつつある


46: ななしさん 2018/06/08(金) 16:56:23.12 ID:/n+6pc/H0

今の普通のAIの返答って十分サイコパスなものばかりだけど
まだその上を行くの?


50: ななしさん 2018/06/08(金) 16:59:42.66 ID:3/VzmQ7F0

偏った単語データベースしか構築できてないってだけなんじゃ…


58: ななしさん 2018/06/08(金) 17:15:24.55 ID:8nVXdEaI0

悪魔にも天使にもなれる


59: ななしさん 2018/06/08(金) 17:16:41.16 ID:ZQrXAyrx0

AIの厨二ングか


61: ななしさん 2018/06/08(金) 17:18:14.30 ID:2VQApGm90

新規性、皆無


63: ななしさん 2018/06/08(金) 17:24:36.93 ID:BOGOIW4i0

サイコパスAI?
シロイルカがおるやんけ


64: ななしさん 2018/06/08(金) 17:34:48.70 ID:vWVrSKOy0

ブレイキング・バッドのウォルターホワイトは
Caltechだね


65: ななしさん 2018/06/08(金) 17:58:01.09 ID:57ryy15w0

精神色相と犯罪係数を測るのか!
と期待していたのに。


26: ななしさん 2018/06/08(金) 16:32:54.75 ID:G2qurTcE0

シビュラシステムって誰も書き込んでないってどうゆうこと?


AI vs. 教科書が読めない子どもたち
新井 紀子
東洋経済新報社
売り上げランキング: 63

http://asahi.5ch.net/test/read.cgi/newsplus/1528442146/