1: ななしさん＠発達中 2024/08/07(水) 22:37:25.82 ID:ckDByC7y
「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」
IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。
物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。
当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。
受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。
これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。
（以下略、続きはソースでご確認ください）
ねとらぼ 8/7(水) 21:35
https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7
スポンサーリンク
2: ななしさん＠発達中 2024/08/07(水) 22:42:14.36 ID:DREq15Op
どういう倫理でダメなんだろう。
自閉症の人が訪ねてきたら
適切な対応ができるだろうに。
自閉症の人が訪ねてきたら
適切な対応ができるだろうに。
16: ななしさん＠発達中 2024/08/08(木) 08:53:18.00 ID:L9ZtF4xI
>>2
適切な対応に繋がるのか、差別的反応に繋がるのか、どちらも可能性があるからだと思う
例えば顔写真から性的指向が判別できるアプリがあったとして、
「お前ホ○だろ、こっちくんな！」みたいな言動に繋がったら、
それはアプリも悪い（差別幇助）ということになっちゃう
適切な対応に繋がるのか、差別的反応に繋がるのか、どちらも可能性があるからだと思う
例えば顔写真から性的指向が判別できるアプリがあったとして、
「お前ホ○だろ、こっちくんな！」みたいな言動に繋がったら、
それはアプリも悪い（差別幇助）ということになっちゃう
5: ななしさん＠発達中 2024/08/07(水) 23:14:38.20 ID:RxfEdT1K
>>1
一昔前の血液型B型差別テレビ番組を本気にするバ○もいたからな。
科学的最低限の教養も知らんア◯が暴走するかもしれないし。
一昔前の血液型B型差別テレビ番組を本気にするバ○もいたからな。
科学的最低限の教養も知らんア◯が暴走するかもしれないし。
10: ななしさん＠発達中 2024/08/08(木) 07:02:58.59 ID:DirbdRfF
倫理的懸念なんかク●どうでもいいけど、これ技術的懸念だな
医学的根拠に基づいていない結果なのに医学的用語を使って判断している事が大問題
AI自体は統計的にしっかりしてるのに、教える側のデータ検証に技術な不備がある
医学的根拠に基づいていない結果なのに医学的用語を使って判断している事が大問題
AI自体は統計的にしっかりしてるのに、教える側のデータ検証に技術な不備がある
3: ななしさん＠発達中 2024/08/07(水) 22:44:55.20 ID:+VXOZGQX
自閉症の人たちの顔写真データがあるの？
6: ななしさん＠発達中 2024/08/08(木) 00:38:26.52 ID:r6EWXjXu
データセットがあれば学習はさせられるだろうけど、
学習に使ったのと別のデータセットを持ってきて、それを正しく判別できなければ失敗になるわけだが、
「医学的根拠は現状ない」と言っているあたり、そういう検証まではしてなさそう。
学習に使ったのと別のデータセットを持ってきて、それを正しく判別できなければ失敗になるわけだが、
「医学的根拠は現状ない」と言っているあたり、そういう検証まではしてなさそう。
11: ななしさん＠発達中 2024/08/08(木) 08:10:03.88 ID:S+bCYlXn
>>6
しょせんプログラム学習用の演習課題だからね
アルゴリズムの流れに引っ掛かりがなければ、実行結果の妥当性は問題にならない
そんなもの公開するなよと言われれば、その通り
しょせんプログラム学習用の演習課題だからね
アルゴリズムの流れに引っ掛かりがなければ、実行結果の妥当性は問題にならない
そんなもの公開するなよと言われれば、その通り
21: ななしさん＠発達中 2024/08/08(木) 11:42:23.22 ID:R0P6yqzk
別にいいんじゃないの？判別して判断は本物の医者に任せりゃ医者が楽になる
内蔵の疾患とかレントゲンから特定すんのはAIがもう活用されてるんだろ？
内蔵の疾患とかレントゲンから特定すんのはAIがもう活用されてるんだろ？
17: ななしさん＠発達中 2024/08/08(木) 08:56:57.30 ID:L9ZtF4xI
つまり「診断」のためにアプリを利用して良いのは医師だけ
医師であるには「差別をしない誓約」が必須なので
>>1 は一般公開したのが問題だった
まあ時間の問題ではあるんだろうけど……
医師であるには「差別をしない誓約」が必須なので
>>1 は一般公開したのが問題だった
まあ時間の問題ではあるんだろうけど……
31: ななしさん＠発達中 2024/08/08(木) 14:32:28.62 ID:S+bCYlXn
>>17
そもそも医療目的のアプリではなく、ただの提出課題
ガチの医療系画像処理なら、膨大な数の学習データと精度の保証された教育が必要
ただの集団検診の胸部レントゲン写真のAI診断アプリにどれだけ時間と金をかけてるか
そもそも医療目的のアプリではなく、ただの提出課題
ガチの医療系画像処理なら、膨大な数の学習データと精度の保証された教育が必要
ただの集団検診の胸部レントゲン写真のAI診断アプリにどれだけ時間と金をかけてるか
25: ななしさん＠発達中 2024/08/08(木) 12:44:51.69 ID:OAYV1l9e
インチキ癖ー
AI売りにしてる怪しげな商売
AI売りにしてる怪しげな商売
27: ななしさん＠発達中 2024/08/08(木) 14:10:40.06 ID:QNTqEDeE
自閉顔というのは確かに存在する
23: ななしさん＠発達中 2024/08/08(木) 12:31:26.00 ID:odXR+Y4b
僕が自閉症だと見抜けるかな？
32: ななしさん＠発達中 2024/08/08(木) 14:37:09.20 ID:9pCGbh+o
その道の人なら少し動画見ればわかる、アプリなんていらない
出典:https://egg.5ch.net/test/read.cgi/scienceplus/1723037845/
スポンサーリンク
＼他サイト様最新記事／
＼新刊ランキング／
役立ち記事一覧
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (110)
判別できるわけもない
おふとん
が
しました
おふとん
が
しました
自分と同じような社会的弱者の煽りばっかしてると
結局こういう無慈悲なものが爆誕してしまうんだな
無職煽り翁みてる？
弱者叩きばっかするようなくずには人権いらないですね、これやりましょう笑
てなるんだよ
おふとん
が
しました
タイトルのねじ曲げ方が悪質すぎ
おふとん
が
しました
AIは学習したデータに沿って推論するだけで
事実を示してくれるものではないぞ
おふとん
が
しました
偏見と差別しか生まない事が目に見える。
おふとん
が
しました
なんで医学的な知識もないのに自閉症の判別やろうとか言い出したんだこれ
おふとん
が
しました
元スレで「AI自体は統計的にしっかりしている」と言ってるヤツがいるが、逆に言えば統計的にしかしっかりしてない。相関関係がある組み合わせを提示してくるシステムでしかない。
こういう医療に関する部門で医師しかAIの出してくる結果を扱えないのは、相関関係を提示されたものから因果関係の有無を判断して個々の対応を考える能力は医療分野の知識と経験を持つ人間にしかできないからで、それが無い人間がAIの出してくる結果を扱ってもレッテル貼りにしか使えない。
その分野に関する能力を持った人間でないとAIの出してくる結果をレッテル貼りにしか使えないというのは医療分野に限った話ではないが……
おふとん
が
しました
情報無かったら同じ人間って分からんかもしれん
表情ってこんな人相に影響与えるんやなってビビったわ
もしかしたらプレコックス感って表情から来るものなのかもなぁ
おふとん
が
しました
重症な人はすぐわかる
おふとん
が
しました
おふとん
が
しました
チー牛叩きは有害
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
写真じゃ正確性は大分落ちると思うが
リアルだと顔付きと目線でほぼわかる
おふとん
が
しました
かなり膨大なデータがいるよ
そんなに簡単とは思わない
おふとん
が
しました
あらゆる面で例えば自閉の可能性54％なのでお断り、
といった事態が発生するだろうね。
アイスランドでは国民の遺伝情報を国で管理し
データベース化した事により遺伝子研究の最先端を
行く代わりにこういった問題も起きているそうだ。
おふとん
が
しました
医師じゃない物が診断の正確性を担保せずにアプリを公開たら医師法違反にあたるだろこれ
そもそもこれ、アプリの作り方を教えてるAI講座の生徒さんが３ヶ月で試作したってレベルのものなんだから非公開にしておけば問題にはならなかったのに
おふとん
が
しました
わざわざ差別を助長するとか言ってる奴ほど差別してるじゃん
ホントに差別しない奴はおもしれー/つまんねーって言いながら普通に接するんだよ
おふとん
が
しました
おふとん
が
しました
確かに一般人が被害被る可能性あるから倫理的にアウトかも知れないけど
自閉症を検出してハジく、って事に関しては
実害もあるし強い必要性を感じてる人も多くいる訳で、そこをアウトって言われてもなぁ
おふとん
が
しました
診断としては画期的だけど他人に癌かどうか知られたくは無いわな
おふとん
が
しました
あれって発達検知そのものだろ
発達の自律神経はサイン波そのもの
加速度が常に変化して窒息している
肉体は等角速度になる
遠心力、質量、慣性の否定だ
波に乗れないどころではなく、自身の肉体の存在にすら乗れない
正に巨大な昆虫、或いは爬虫類
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
実際に判別できるならばんばん使いましょう
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
でも、それとは別に、身嗜みを整えて表情や言動に気をつけるのも、自分が知らないところで医者でもない他人から一方的にレッテル貼りされて不利益を受けないようにするための自衛手段として重要なんだな…と再確認できたわ
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
無くても既に他の方法でもっと正確に診断できてそうな気がする
知らんけど
おふとん
が
しました
これやると阿部寛系濃い顔イケメン健常者に被害が及ぶ気がせんでもない
体と頭の大きさも比較した上ならワンチャン？
おふとん
が
しました
アプリのルーチンでなく、アプリの活用方法や表示手段といった演出、つまりユーザーへのアプローチの仕方がマズかった
内部のアプリ処理的にやってること同じでも、結果を外部に見せる時の演出次第で印象は大きく変わる。ゲームとかでもね
おふとん
が
しました
それが原因なら男女を識別するアプリだってNGって事になる
特定ワードに梯子状神経が過剰反応して騒いでるだけだよ
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
もう、助からんじゃろな
おふとん
が
しました
でかい黒目って印象だな
おふとん
が
しました
おふとん
が
しました
そしたら自閉症はいなくなる。
みんなハッピーやん。
おふとん
が
しました
おふとん
が
しました
手に負えん臭いﾓﾝに蓋したﾀﾞｹだ(笑)(´・ω・｀)
おふとん
が
しました
…ことをアプリの落とし込んで瞬時にできればその道の人が楽になるのにな
その道の人が他のことに向き合う時間ができる
おふとん
が
しました
発達なんかもアスペ目とか健常者とは違った特徴がいくつもある
おふとん
が
しました
だからパッと見ただけではわからないんじゃ
おふとん
が
しました
表情筋の動き方とかそういうのなら分かる気もするが
おふとん
が
しました
> 適切な対応ができるだろうに。
自閉症もピンキリやで
iPhoneを作ったジョブズも自閉症（正確には自閉症スペクトラム）やからな
自閉症（ヒキニート）と、自閉症（無敵の人）と、自閉症（ジョブズ）を顔だけで区別して適切な対応ができるんか？
おふとん
が
しました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。