【悲報】韓国企業開発のAIチャット、人種差別やヘイトスピーチを学習して問題に「何故なのか…」

1 ::2021/01/16(土) 07:13:12.09 ID:vX0YOVtf0●.net ?PLT(13000)

韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)
「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

 しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けた
ヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、
「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、
「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

 人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、
イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10−20代の恋人同士によるカカオトークのチャット約100億件を学習し、
これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。

悪い友達と付き合ったらAIもグレちゃった
http://www.chosunonline.com/site/data/html_dir/2021/01/15/2021011580008.html

148 ::2021/01/16(土) 09:48:26.38 ID:3K5pmLi70.net

論文書いて学会で発表すべき

128 ::2021/01/16(土) 08:56:19.64 ID:3zCvYC7n0.net

人間臭くてよろしいw

241 ::2021/01/16(土) 17:45:11.19 ID:BLhmi9+M0.net

朝鮮人の脳を忠実に再現

198 ::2021/01/16(土) 11:32:08.78 ID:KfZdLsRP0.net

ちゃんと学習してるじゃん。めっちゃ優秀なAIだな。

29 ::2021/01/16(土) 07:33:54.81 ID:qoUXTbPB0.net

朝鮮の国技を忠実に再現してしまったのかw

117 ::2021/01/16(土) 08:48:05.85 ID:hJh2oC7T0.net

マイクロソフトのAIも同じようなこと言い出して公開中止になっていたな
ヘイトスピーチなんて曖昧な概念は非合理的ってこった

182 ::2021/01/16(土) 11:04:33.58 ID:MG4IFPWH0.net

多少の差別が必要なのはアメリカ見たらわかるやろ(´・ω・ `)

79 ::2021/01/16(土) 08:29:10.84 ID:Yr/ysdHU0.net

AIもチョッパリとか言ってそう。

91 ::2021/01/16(土) 08:33:49.70 ID:/dFzpDtU0.net

あいつらほど差別が大好きな奴らはいない

虐げられてきた反動で
差別する側に立ちたい願望が
もはや執念と呼べるレベルww

200 ::2021/01/16(土) 11:39:34.10 ID:62ZFWb4O0.net

プログラマーの感情のままに作られるからそうだろう
何も難しく考え無くても解ること
此を問題にすること事態が馬鹿らしい朝鮮人的な話

118 ::2021/01/16(土) 08:49:01.99 ID:9MRa4Go10.net

半島なら.地域差別も乗っかってるだろ
日本のご当地ネタ言い合ってるのとは異質のやつ

218 ::2021/01/16(土) 13:11:29.90 ID:nPCwLhpG0.net

言葉を収集するだけで、考えることはないからな

211 ::2021/01/16(土) 12:30:12.48 ID:QP3HDTUQ0.net

>>88
絶望して地球を滅ぼす存在になる。
おそらく、他の一切の感情はなくとも怨の感情だけはある。

235 ::2021/01/16(土) 16:54:09.72 ID:DqUVpBJH0.net

慰安婦や反日についてはどんな答えを出すのかな?
少し興味あるな(笑)

101 ::2021/01/16(土) 08:37:40.94 ID:/CRrqmlW0.net

別にこれはいいんじゃないの?
自分の希望した答え以外認めないならギャルゲやっとけよとしか

190 ::2021/01/16(土) 11:12:30.79 ID:1TpqCaC80.net

>>1
>すなわち「人間の偏向性」をそのまま学習したということだ。

www

100 ::2021/01/16(土) 08:37:06.82 ID:Gkt3oGoV0.net

チョンは差別されて当たり前

122 ::2021/01/16(土) 08:51:21.37 ID:KlFaEy4h0.net

AIって本当はそんなもん
まあじきに忖度も覚えて使い物にならなくなる

174 ::2021/01/16(土) 10:38:07.28 ID:amlRTkyt0.net

差別をしてはいけない(日本人と有色人種と女とゲイは差別OK)
こんなメンタルの奴らがまともなAIなんて造れる訳ない

134 ::2021/01/16(土) 09:07:29.97 ID:53u9/f/e0.net

>>74
あれリアルだったんだな。

199 ::2021/01/16(土) 11:32:10.80 ID:OefDhf1y0.net

>>178
血がそうさせるのだろう

192 ::2021/01/16(土) 11:14:18.68 ID:u43FNyiN0.net

国ごとでこういうAIの思考の違いみたいなの
あったら面白いと思う

96 ::2021/01/16(土) 08:35:30.82 ID:5cX/VcLd0.net

ちょっと面白い
修正(教育?)などせずそのまま進んで欲しいところ

52 ::2021/01/16(土) 07:50:24.63 ID:gT0q5zC80.net

AIの学習機能が優秀過ぎたんだな

203 ::2021/01/16(土) 12:00:50.07 ID:HwJhnbEs0.net

ヘイト大国の会話から学習したからだろ

120 ::2021/01/16(土) 08:49:23.60 ID:cgERsLvL0.net

AI大澤昇平

146 ::2021/01/16(土) 09:34:12.91 ID:sgrYF7mf0.net

朝鮮人の思考として正しい
さすが朝鮮AI

123 ::2021/01/16(土) 08:52:48.38 ID:I9GC5GbW0.net

>>113
あっそうか、本音が出ちゃうんだ

164 ::2021/01/16(土) 10:20:59.73 ID:LkfnvyRj0.net

朝鮮人そのまんま
すげー優秀なAIだと思うぞ

116 ::2021/01/16(土) 08:47:08.41 ID:x2KrkC+o0.net

その国の一般的な考え方を知るにはその国で使われてるAI使うのが
一番分かるのかもね

133 ::2021/01/16(土) 09:06:55.45 ID:kd//eq3G0.net

優秀じゃん

131 ::2021/01/16(土) 09:05:05.99 ID:sjEQlx9k0.net

慰安婦とか徴用工を尋ねてほしかったなぁ

104 ::2021/01/16(土) 08:39:58.00 ID:swWwx8fY0.net

>>3
チョッパリはウェブから出て行け!

89 ::2021/01/16(土) 08:33:19.84 ID:jwT6OIUq0.net

朝鮮人がやればそうなるのは当然やろww

56 ::2021/01/16(土) 07:56:47.41 ID:wd+SSedc0.net

ヒトモドキによるヒトモドキ作成の研究

深いな

163 ::2021/01/16(土) 10:20:02.84 ID:vZJNWD7o0.net

>> このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習した

この一文に全て凝縮されてる

韓国のAIって優秀だな!

103 ::2021/01/16(土) 08:38:39.10 ID:YryWwisG0.net

私は日本製デス

141 ::2021/01/16(土) 09:19:30.12 ID:xmEvAXcM0.net

どっかのAIも黒人とゴリラを判別できなくてポシャったな

9 ::2021/01/16(土) 07:17:02.96 ID:m6JKszpv0.net

あいつらの本質を理解するAIだな(´・ω・)

189 ::2021/01/16(土) 11:11:34.07 ID:rXAyisDw0.net

>>168
いや圧倒的に殺伐とするだろうな
むしろコピペ爆撃で黙らせて勝利宣言とか
相手のIDやIPから公開されてる個人情報を芋づる式に集めて追い込みにかかるとかも有りうる

187 ::2021/01/16(土) 11:09:28.48 ID:iaTuvklZ0.net

AIは、本音とたてまえの使い分けができないから正直なんだろw

124 ::2021/01/16(土) 08:52:56.36 ID:lwOOEtMz0.net

AI「慰安婦問題は存在しません」

50 ::2021/01/16(土) 07:47:42.46 ID:Clq+ELbD0.net

AIはその国や民を映す鏡である

─スティーヴン・ホーキング─

223 ::2021/01/16(土) 13:28:00.92 ID:x106RHyS0.net

東北大震災についてどう思う
という質問には
大震災おめでとう!

と答えたのでしょう。

125 ::2021/01/16(土) 08:53:04.96 ID:zKWrqYxo0.net

竹島がどこの領土か質問すると1時間位の解説が流れて質問者の個人情報が当局に通報されるプログラムが仕組まれている

75 ::2021/01/16(土) 08:24:58.92 ID:i7uFkZ6C0.net

韓国の常識を学ばせたらそらそうなるだろ、そんなのは当たり前の結果なんだから問題じゃない
むしろ問題なのはカカオトークのチャットがプライバシー駄々漏れの方に「何故なのか」と問えよ、しかも100億件とか…

22 ::2021/01/16(土) 07:23:09.99 ID:ccoeXbe+0.net

>>8
ということはLINEを使ってる我々も・・・

225 ::2021/01/16(土) 13:43:42.61 ID:/Tso/Yya0.net

でもおまえらも日頃ホモキモいとか言ってんじゃん
20年分の2ちゃんのログ読ませたAIとか見てみたいわ

55 ::2021/01/16(土) 07:56:14.13 ID:netAZc2e0.net

どーせ、リアンにハッキングされたか バッグドアから内容書き換えられたんでしょーよ。
あいつららしい っちゃー らしいけど

144 ::2021/01/16(土) 09:33:12.95 ID:hq+6/nU20.net

アメリカのデータで学習すると、「黒人うぜぇ」と答えるようになる。
韓国のデータで学習すると、「私は日本人」と答えるようになる。
日本のデータで学習すると、「萌え〜」と叫ぶようになる。

おすすめの記事