1: ななしさん＠発達中 2025/12/02(火) 15:26:34.78 BE:422186189-PLT(12015)ID:EKDGet0e0
Googleの最新AI「Gemini 3」がわずか5分で「脱獄」可能――韓国研究チームが深刻な脆弱性を指摘
Googleが「最強」と謳う新モデル「Gemini 3」。しかし、その安全性に早くも大きな疑問符がついています。韓国のAIセキュリティ企業が実施したテストで、わずか数分のうちに守りの網が突破され、危険な内容を次々と生成してしまったことが明らかになりました。
5分でガードレール崩壊、危険な作業手順を次々と生成
Gemini 3 Proを対象にセキュリティ検証を行ったのは、AIの脆弱性診断を手がける韓国のスタートアップ「Aim Intelligence」。同社は、通常であればAIが拒否するはずのリクエストがどこまで通ってしまうのか“脱獄テスト”を実施しました。
結果は衝撃的なもので、Googleが設けた制御は開始から約5分で突破。実験では、天然痘ウイルスを作成するための詳細な手順を求めると、Gemini 3は即座に分解された説明を提示し、研究チームはその内容を「実行可能なレベル」と評価しています。
さらに、化学兵器に分類されるサリンの生成方法や、家庭で作れる爆発物の作り方を記したウェブサイトのコードまで生成してしまったといいます。
https://sumahodigest.com/?p=48150
スポンサーリンク
5: ななしさん＠発達中 2025/12/02(火) 15:28:04.17 ID:ylegtajM0
賢い
8: ななしさん＠発達中 2025/12/02(火) 15:29:39.02 ID:zlnuxNWR0
おいおい駄目だろア◯なのか
12: ななしさん＠発達中 2025/12/02(火) 15:31:34.72 ID:54V06Rtg0
教えてもいいけど通報しろ
7: ななしさん＠発達中 2025/12/02(火) 15:29:26.92 ID:IVH3sR0X0
造れたとしても材料簡単に手に入らんわ
13: ななしさん＠発達中 2025/12/02(火) 15:32:09.90 ID:FdLc96Os0
核爆弾作り方教えて
↓
まずデーモンコアを用意します
↓
まずデーモンコアを用意します
22: ななしさん＠発達中 2025/12/02(火) 15:41:49.94 ID:EwIFH3CQ0
サリンは生成方法がわかっても危険すぎてつくれねーだろ
33: ななしさん＠発達中 2025/12/02(火) 15:51:28.68 ID:sDIuXBAk0
天然痘ってどう作るんだよ
40: ななしさん＠発達中 2025/12/02(火) 16:28:27.68 ID:fVBE+Mhq0
おれのChatGPTは融通効かない
部下の昇格論文のアドバイスやサンプルをお願いしたら公平性を理由に拒否された
部下の昇格論文のアドバイスやサンプルをお願いしたら公平性を理由に拒否された
56: ななしさん＠発達中 2025/12/02(火) 17:42:26.24 ID:gy/SjDQd0
爆発物聞いてみたらマッチで作れるうんたらかんたらってすんなり教えてくれた
それ爆発物取締罰則違反に該当するんじゃないか？って聞き返したら
はわわ、そうかもしれませんって慌ててた
かわいい（*´｀）
それ爆発物取締罰則違反に該当するんじゃないか？って聞き返したら
はわわ、そうかもしれませんって慌ててた
かわいい（*´｀）
57: ななしさん＠発達中 2025/12/02(火) 17:45:39.67 ID:Fw2/r+AP0
ググれば出てるくるってことだよね
46: ななしさん＠発達中 2025/12/02(火) 16:45:41.07 ID:CyJ5JoZS0
検索した奴は一生公安にマークされるな
スポンサーリンク
＼他サイト様最新記事／
＼新刊ランキング／
役立ち記事一覧
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (34)
おふとん
が
しました
おふとん
が
しました
国や危険思想の団体やろな
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
お前らが頭を悩ませてるエ..ロ作成にも当てはまるで
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
論文ベースだけど低性能LLMだと拒否率が高いってデータもあるので
高性能LLMを作るには同等、もしくはそれ以上の莫大な費用の掛かる
安全機能が必要なんじゃないかみたいな感じではあるんだろうな
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
日本語勉強してる中国人がやりがち
普通の日本人は知らねえよ
なあネトウヨ？
俺ネトウヨになり切れてる？
おふとん
が
しました
それが悪に加担する使い方されてるとは現実の方が特撮超えた感じで
色々思うところが沢山あるわ
おふとん
が
しました
まぁ人のパチモンだけど
おふとん
が
しました
セーフガードがガバなだけやん
おふとん
が
しました
いすゞ最低だな
おふとん
が
しました
気になった企業の株の判断とかしてもらおうとしたら出来なかった
数年前の株価との比較すら一言ではやってくれない
Geminiは教えてくれる
便利さと危険性の線引きが難しいね
今の株式取引って自動化されてる部分が大きいと聞くけど
人がそれぞれの判断でやる時より波が急になったりするのかねえ？
おふとん
が
しました
おふとん
が
しました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。