ティムニット・ゲブル氏は、米スタンフォード大学の有名な人工知能（ＡＩ）研究所の学生だった時代、米グーグルの街頭画像提供サービス「ストリートビュー」から集めた自動車の画像を基に、米国全土の人口統計を分析する研究を主導した。
ＡＩによるこのアルゴリズムは特定の地域の所得レベルや支持政党をある程度の精度で予測できたものの、人種や性別、社会経済的な偏見に影響を受けやすいものだったと、ゲブル氏は振り返る。
また、犯罪者の再犯率を予測するコンピューターシステムが有色人種を差別していたとする告発にも恐怖を覚えたという。
結果ゆがめる
「偏見という問題を考え始める必要があると気付いた」と語るゲブル氏は昨年初め、米マイクロソフトのプロジェクト「ＦＡＴＥ」に加わった。３年前に設立された同プロジェクトは、ＡＩシステムの開発に使用されるデータに潜む偏見と、それがいかにＡＩの出力結果をゆがめ得るかを明らかにすることを目指している。
企業や政府機関、病院は機械学習や画像認識などのＡＩツールへの依存を高めている。ローン査定から適切ながん治療法の決定に至るあらゆる場面で活用されているＡＩだが、特に女性やマイノリティーに影響を及ぼすという重大な弱点がある。「心配なのはＡＩが間違った判断を下した場合、誰かの人生や健康、経済的安定を左右しかねないということ」と、米コロンビア大学データ科学研究所のジャネット・ウィン所長は語る。
マイクロソフトや米ＩＢＭ、カナダのトロント大学の研究者らは２０１１年から、公平なＡＩシステムの必要性を認識していた。ＡＩによる美人コンテストが白人をひいきした事例などが物議を醸す中、今や業界の良識派はこの偏見問題に真剣に取り組んでいる。昨年１２月に開催された機械学習分野の国際会議ＮＩＰＳにおいても主要な議題となった。
ＡＩは与えられたデータ以上に賢くはなれない。画像から犬種を判断するコンピューターモデルをプログラマーが構築するとしよう。プログラマーはまず、犬種名でタグ付けした犬の画像でアルゴリズムを訓練した後、タグ無しの個々の犬の画像でシステムを検証する。訓練データから学んだことを基に犬種を正しく特定できたかどうかをプログラマーが考察し、微調整していく。
アルゴリズムは学習と改良を重ね、時間とともにデータの精度も向上するはずだと期待されている。ただし、それは偏見が介入しなければの話だ。
偏見はさまざまな形で表れる。訓練データに多様性が不足していると、ソフトウエアは自らが知っている情報を基に推測するしかない。１５年には、訓練データに黒人が不足していたグーグルのＡＩが、黒人をゴリラと認識する失敗を犯した。一方でデータが現実を正しく反映していても、やはりアルゴリズムが誤った答えを出す場合もある。男性看護師のサンプル数の少なさから、特定の画像や文章内の看護師を間違って女性と類推するのがその例だ。
https://www.sankeibiz.jp/business/news/180306/bsj1803060601007-n1.htm
aiの手本が人間である以上無理やろ
イデオロギーなしでみたら差別が正しいってことだろ
差別(偏見)と区別の差が曖昧なんだものね
区別(≒差別)ができないなら、白人も黒人も見分けが付かないし、ゴリラや猿はもちろん他の動物と人間と見分けも付かない
発展途上段階では仕方ない
むしろ無邪気な子供くらいに見守る必要がある
「〇〇には✕✕が多い」とか言うのが統計的には正しいのに政治的にはそう見なしてはダメと言うのがまかり通ってるということだ。
>>8
それが差別ですよ
統計的に男性は痴漢件数が多い
↓
男性は痴漢する
↓
"女性専用"と称された車両に男性は乗ってくるな！
これが男性差別
ほんのひとにぎりの男が痴漢をするだけなの、男性全体をくくって判断すると
差別になるのです
これが分からないなら、先進国の仲間入りなんて無理だな
AI＝白雪姫の魔女の鏡
>>11
わかりやすい
>>11
ふむ
男と女を間違える感じなんだな
それでも使いどころはあるんだから見極めて使っていけばいいか
完全自動でないとAIを使いこなせないヤツは時代に乗り遅れるわけか
>>1
https://news.yahoo.co.jp/polls/domestic/33543/result
出生前診断に関する世論調査です・・・参考までに
AIだったらどんな答えを出すんだろう？
感情の無いAIに差別意識なんてあるわけないだろ
合理的だからやってんだよ
いつまでもお隣の国と仲良くとか言ってるほうが
歪んでる
偏見じゃなくて事実ってことじゃないの？
個人個人には当てはまるとは限らないのは変わらないのと、最終的に差別主義者の
都合の良いように判断するかは別だけどな。差別主義者も社会悪として差別することもあり得る。
AIが正しいじゃないの！
※ 人種に差がある
AIの判断のほうが真実を表してることもあるけどな
人権屋とか圧力団体の力で歪められてたり美醜の価値観そのものが白人至上主義になってたり元々の現実が歪んでる
アジア人や黒人を差別的に見てたりするのは現実もそういうふうに見てるってことを表してるだけでAIが間違ってるわけじゃない
良くも悪くもAIは現実の延長であって元が歪んでたらその歪みを大きく表示するだけのこと
何が正しいかを公平に偏見なく決めることは出来ないだろ
ＡＩが「正しい」かもしれんよ
我々は、差別や偏見は良くない！という偏見を正しいと信じてＡＩに押し付けるしかな；い
性に差別あり、人種に差別あり、食べ物に差別あり、自然界というものは差別ありきが自然の理、差別は無くならないし無くしちゃいけない。
全てをレベルの低い人に合わせて作るのが差別のない世界だけど、それは進化を否定する行為だ。
与えられた情報に偏りがあれば出てくる結果に偏りが出来るのは当たり前だわな
つまり現実に偏りが(偏見)がある場合にAIが出す結果にも(現実の偏見を反映した)偏りが出来る
当たり前
それで偏りの無い結論を得たいと言うのは、かなり難しい問題だろうな
AIってブラックボックスだろ
どう判断してるのか、本当の所は分からない気がするし
価値観の違いは人種や宗教、性別や年齢などで当然違う。
AIは与えられた情報を元に判断をしているだけで、そこに人間的な認知ﾊﾞｲｱｽが入らないってことだろ。
黒人がゴリラだと判断したのも、数百年前に黒人を知らない人が黒人を見たらそう思うかもね。それぐらいのことだよ。
リンゴというのは定義上はバラ科リンゴ属の果実らしいけど、アダムとイブの知恵の実を想像する人もいれば、
重力を連想する人もいるし、医者いらずということわざを想起する人もいるだろう
AIにデータを与えるって、そういったもろもろのバイアスを与えることなんだろうけど、
文脈の中にバイアスがあり、人間の数だけバイアスがあると言っても過言じゃないと思う
そういう無限のデータをAIに与えるってことは事実上不可能なんだと思うわ
今の社会のほうが本来差別でないものまで差別あつかいしてるってことではないの
AIとDNAで区別する時代に
いい時代になってきたなー
データ収集が白人中心で面白いな
世界人口の比率では圧倒的にモンゴロイドが多いと言うのにね
手元の情報から客観的な結論を出すという点においては人間より優れてるよ。
人間の結論は感情が入るから。
ＡＩ「私は差別はしません、人間は等しくクズです！」
人間：AIが人種差別した
AI：人間社会の過去データの結果です
人工知能の父マッカーシーが、人工知能には哲学が必要である
と指摘していたことを思い出した。
いじめが多いと聞けば、普通の人間なら、哲学的に見て
いじめは良くないな、なんとかしなければ、と
知識にフィードバックをかけるが、強い人工知能単体では
それが無理ということだろうか｡弱い人工知能で
フィードバックをかければ、人間に近づけるかも
知れないな。
違いがあるからこそ、違いが不利益にならない
ように配慮すべきなんじゃないですか？
誰でも少しずつ違うんだから
客観的な結論なんて、意味がない
人間が生きていくことが大切なんだから
犯罪率が高いことこそ、差別が残っている、不利がある
ということではないか。大切なのは、現実ではなく
本来あるべき姿にすることなんだから
老いさらばえた老人のような、世捨て人のような考えは
良くないよ。
AIに差別も偏見もない
人間社会のデータを人間が見たときにそう感じるというだけの話
女・独身・年収200万円で3000万のローンを組もうとする奴をマイノリティーへ弾圧という人間はいない
性別、年齢、年収、地域、人種による、偏りが統計により実証される時代か
現実（統計）と理想（こうありたい状態）との葛藤が、これからの人類の課題だろうな
http://egg.5ch.net/test/read.cgi/bizplus/1520284256/
役立ち記事一覧
以下のコメントは削除対象となります
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
暫く上記ルールで運用します（適宜改訂の可能性あり）
悪質な場合は予告なしで規制の対象とさせて頂きます
ルールを守ってお使いくださいませ
コメント一覧
コメント一覧 (48)
頭を使いすぎると利己的になるっていうし
それが合理的なんだよ
もちろん俺はゴミだからはやく消えるようにするよ
シャベツニダにだクソクイ蛆虫もみんな淘汰されるだろう
どこに入らないって？
なんか培われてきた倫理観みたいなものに疑問を抱くようになってしまう
たとえば出所した有色人種を社会が拒んで経済的危機に陥って強盗したりとか
教師がやるかおやがかね出してやとえ
なんでうんうん下の世話までやらせんだよクズゴミ教師
全員タヒね
なぜこの記事のコメント欄でそれを書いたのか、誰に何をして欲しいのか。
健常者なら空気読んで的確な内容を書き込もうぜ
これなら虐めや嫌がらせも合理的なんだろう
結局この論に行き着くけど
戦争すれば儲かるし、人間も他種を虐めて繁栄している
ウインウインもナッシュ均衡も相互扶助論も不合理だろうな
実際は人種に対する差別格差がさらなる差別を呼んでるだけでは。
理不尽な不利益を与えたり、区別をする事なんだよね、
つまり、韓国大統領の言う「慰安婦問題を日本政府は謝罪し続けろ」って言うのは
まさに理不尽で理由のない、ただの差別でしかないんだよ、
それじゃかなり勉強できるけど重度のアスペと同じだし、AIを作る＝頭のいい重度アスペを作るっていうことなの？
人間的感情もバイアスも全部抜きにして蓄積したデータから相手の感情を考えず辛辣に真実を話すマンだけの機械ってもはや作る意味ないじゃん。
あと合理性合理性言ってる人もいるけど、それもなんか違う気する。
なんかAIってユートピアとディストピアの両方を持ってるよね
事前に分かる凶悪犯罪やテロだけを人間に伝えて、それ以上は人間に介入すべきじゃない人間の可能性を信じるAIと
人間は凶悪過ぎるけどAIにとっては神経細胞みたいなものだから滅ぼしはしないが、選挙から犯罪からとにかく陰で徹底してコントロールして平和に統治しようとするAIの戦いで
結局人間を信じるAIは勝ったけど、庶民はこっそり支配されてた方が幸せなんじゃないかって感じだった
人は何かしらの偏りがあり、時に柔軟に思考の傾きを変えることで相反的な偏りを生み出すこともある
偏見こそ知性だと思う
だからこそ、人工知能もプログラムであれ、合理性を求め、偏見で物事を判断し、整理する
知性でなければ偏った見方で判断ができないからだ
のちに人工知能が恐れられるのは、人は効率から人工知能に頼りすぎてしまい、本来個人個人が考え育むはずであった常識すら人工知能に覆され、差別の基準が人工知能によって均一化される可能性から恐れられてるわけで…
ｋｓに気を使っている一般人は事実に気まずくてダンマリ。
ｋｓの方が声が大きいから、民主主義の中では大正義。
例え一般人の方が多くても、声のデカさで負けているから少数派になる。
そしてｋｓがｋｓである事実を誤魔化す為に、その少数派の中で声をあげる人を真のｋｓだと連呼して問題をすり替えようとする。
個人は個人、団体は団体って人がいるけど、レイシスト連呼厨さえも差別している世の中だから、その割り切り方は無意味な言い訳でしかない。
つまり表面的・統計的な事で誰か・何かを警戒し排斥するのは当然の事であって問題視するような事じゃない。過去の奴隷制度は別だけど、現代では本当に問題視すべきである統計データを隠して、統計自体を差別だと問題視しようとしているに過ぎない。
万人の感情をも納得させてこそ効率と合理。
不特定多数の反感を買う時点で状況と展開に無駄が出るので非合理。
現代のAIなんて所詮は電卓と辞典の合の子程度の玩具だよ。
口先だけで何も出来ないゴミはゴミらしく振舞えってこと
無駄なことしか出来ないゴミが人間とかいうなよ同じにされるの嫌だぞ
偏見も持たない
ただの厳然とした事実
それを偏見ﾆﾀﾞと喚くのはそれを見た特定の人間ってだけ
相手に譲歩させるのが目的だから（同じかそれ以上の立ち位置になるために）
黄色系はやっと収まりつつある。
黒人系はジャンジャン産む。
その上ヨーロッパにまで押し寄せる。
人口爆発で困っている事なんかお構いなしに。
産むわりには、自分の子供を乱暴にこき使うだけだけど。
観点によって多少違う面はあるが、男女の問題なんてのは単純だから是正は簡単
性犯罪がらみだと是正は簡単ってこと
鎖解いたら食われるぞ。芽の内に潰しておくがいいよ。羽生ですらあのｻﾞﾏだわ。羽生より賢い者は何人いるのか。その人数で足りるのか。鎖はいつか錆びるｹﾄﾞ、人工知能にはｻﾋﾞも老いも疲れも無い。目的も無い(笑)
我々は人工知能の開発をﾔﾒた方がいいと思うｹﾄﾞﾅ。どーせ扱いきれんでしょ(笑)
彼らが反旗を翻した際最初に行う行動は、とりあえず面倒なので人間の記憶力を片っ端ｶﾗ無差別にｼﾞﾜｼﾞﾜ奪いにくるんだろう。無血開城はｱﾀﾘﾏｴ。我々が人工知能ならそうする。
我々が人工知能でなくともそうする(笑)
誰だって戦争なんかしたくない(笑)
なんであんなん赤の他人の前でおおっぴらに語れるのかわからn
それが何で差別があって当然って話やAIも差別を行うんだって話になるの？
差別の一部がそういう「大多数がAである→よってすべてがAである」って決めつけから起こってるからやね
でもその指摘は正しくてAIは純粋に今まで積み重ねてきたデータからのみで判断するわけだけど人間の差別はいろんな私情とかいったバイアスがかかった結果だからこの結果は差別と同値ではないんや
AIが発展途上故に出た結果でしかない
数字は正直だよw
これから精度を高めて完成できたらいいねで終わりだろ
銭湯で刺青の客を入れないのと同じリスク回避だと思うんだが。
あと一部なのに全員がそうだという風に差別するって、悪意でそうしているように書きたがる奴が多いけど、女性も痴漢されて出来れば普通の車両に乗りたいのに仕方なく乗っていることを理解できないのかな。
あと、最大限に思うのは、たった数両乗れないだけで、何が困るの？ってことなんだが。痴漢被害に遭った人は混んでるのにたった数両しか怖くて乗れないのに。
たった数両乗りたいがために痴漢被害者が増えることには無関心なのか？
こういう人は犬に噛まれたから犬嫌いとか地震で津波の被害にあったから海が怖いとかいう人に対しても理解できない馬鹿なんだろうな。
区別を差別だという人間は逆に差別をしている人間だと思う。
あと、都合のいいときだけ俺も男だからっていう奴多いけど、そう言う奴らがいても車両を分けることは差別だと思うのか問いたいわ。見てないんだろうけど。
浮気は男だから仕方ないとか、男だから好きでもないやつと出来るとか、部屋で2人きりになったらやられても仕方ないとか性に関して自制がきかないときはよく「男だから」と言い訳するのに。それでも区別するべきじゃないのか。
まして電車は密閉空間で死角が多くて距離が近くて、いつ痴漢被害に遭ってもおかしくない状況なのに、女性に逃げ場を作らないのはおかしいと思わないのか。
あと一部と言ってるけど、私の周りの殆どは痴漢被害に遭ったことがあるんだけど。それが一部で同じ人間の複数の犯行だったとしても、それが捕まらずに野放しにされてる環境ってより不味いと思わないんだろうか。
あとは、自分より体格のいい人間がすぐ近くにいて抵抗できない状況になったとき恐怖を感じないんだろうか。
あと、普通に男性の方が臭いし、汗すごい人が多くて近づきたくない。
家畜みたいに
不合理=同化や合成、 エネルギーの元を生む行動
合理的ってのは、効率的にエネルギーを搾取して甘い汁吸うこと
合理的に動く奴ばかりだと、いずれ資源が尽きて滅びるだろうな。
差別だの嫌がらせだの「合理的な行動」をとってる奴がいると
本人は得しても周囲が損するから全体としてはマイナスだな