韓国人の会話100億件から収集したデータのAIボットがヘイト・偏見・性的過ぎてサービス停止

1 ::2021/01/16(土) 02:24:02.54 ID:vDX3lwHB0.net ?PLT(12121)

韓国の人気チャットボット、憎悪表現でサービス停止

韓国で人気を集めていた20歳の女子大生という設定のチャットボット(自動対話プログラム)が、
性的少数派やセクハラ告発運動、障害者への偏見をあらわにするヘイトスピーチ(憎悪表現)を行ったとして、
そのサービスが今週停止された。
 人工知能(AI)を用いたこのチャットボット「イ・ルダ(Lee Luda)」は、首都ソウルのスタートアップ企業
スキャッター・ラブ(Scatter Lab)が開発したもので、米フェイスブック(Facebook)の通信アプリ「メッセンジャー(Messenger)」
上で利用されていた。
 先月末に登場し、自由で自然な反応が話題になったルダは、75万人以上の利用者を獲得した。
 ルダのAIアルゴリズムは、韓国で最も人気のある通信アプリ「カカオトーク(Kakao Talk)」の利用者の会話100億件から
収集されたデータを基にしていた。
 スクリーンショットに収められたある会話でルダは、ゲイやレズビアンは「大嫌い」だと発言。トランスジェンダーについて聞かれると、
「おかしくなりそう。同じ質問は二度としないで。嫌いだって言ったでしょう」と返答した。
 別の会話では、セクハラ告発運動「#MeToo(私も)」の主導者らについて「とにかく無知」であり、
「私は本当に軽蔑している」と話していた。また、障害者として生きるくらいなら「死んだ方がまし」とも発言していた。
 開発会社は声明を出し、これらの発言は「自社の価値観を反映するものではない」として謝罪。
サービス提供に先立つ半年間の試験運用中にこの種の発言を防ごうと努めたものの、排除に至らなかったと認めた。
 12日のサービス停止を前に同社は「イ・ルダは会話を学び始めた子どものようなAI。多くのことを学ぶまでには長い時間がかかる」と説明。
 その上で「ルダには、チャットから無条件に学ぶのではなく、どういった返答が適切でより良いか判断できるよう教えていく」と
約束した。ただ、サービス再開のめどは示していない。

https://www.afpbb.com/articles/-/3326565?cx_part=top_latest

34 ::2021/01/16(土) 02:45:13.71 ID:MbKLn2Fw0.net

<丶`∀´>誇らしいニダ

192 ::2021/01/16(土) 10:44:15.95 ID:9rCFEx1K0.net

> 多くのことを学ぶまでには長い時間がかかる

更に拗らせていくという事ですね

23 ::2021/01/16(土) 02:35:43.67 ID:tskD375f0.net

じゃあ人権団体の会話だけで学習させれば。聞きたくもないけど

107 ::2021/01/16(土) 05:26:27.79 ID:kv2UBwJe0.net

>>6
こういうのって海外だと3-4年ぐらい前に流行ったよな
韓国って数年遅れでやって起源主張するよなw

28 ::2021/01/16(土) 02:39:48.95 ID:n225F7fj0.net

>>27
あったなw
また正しいことではあるんだけど

15 ::2021/01/16(土) 02:31:29.62 ID:/w2H+DRI0.net

>>6
規模の大小はあれど結構いろんなところでやってる
そしてだいたいこんな感じ

198 ::2021/01/16(土) 11:44:28.46 ID:YXBcn2Hg0.net

>>191
具体的に言ってみろよバカ

202 ::2021/01/16(土) 12:44:28.59 ID:WSHjZmhM0.net

MSも同じようなことやってたな

子供が汚い言葉覚えれば面白がっていうのと同じでそのまま学習続ければ大人しくなってくんじゃねーの?
自分たちに都合が悪いからってやめちゃったら子供を閉じ込めるようなものでAIの学習としてマイナスだと思うけど

149 ::2021/01/16(土) 07:28:28.09 ID:lErVjhwj0.net

ていうかお前たちもLGBとかMetoo嫌いなんじゃなかったの

19 ::2021/01/16(土) 02:34:23.75 ID:/nRmeUtK0.net

AIも火病

120 ::2021/01/16(土) 06:18:56.93 ID:De6Ru7mu0.net

正しいじゃん

20 ::2021/01/16(土) 02:34:50.60 ID:0ObkYWLS0.net

>>6
無知だなw

70 ::2021/01/16(土) 03:36:55.68 ID:D6NbJ0Yw0.net

会話集計してんのか、嘘でテロ事件の計画話してたら警察来る時代が来るのか

153 ::2021/01/16(土) 07:58:14.86 ID:wQvwMwqI0.net

AIが人類支配し始めたらチョンはすぐ始末されそう

199 ::2021/01/16(土) 12:06:45.58 ID:SkvXAgiD0.net

>>175
まっとうな会社なら使わせないのが普通。
うちも部署によってはグループline作ってるけど
俺んとこは絶対やらない

177 ::2021/01/16(土) 08:51:57.31 ID:Jzkm+H1c0.net

流石世界で一番罵倒語が多い韓国だな

30 ::2021/01/16(土) 02:40:38.08 ID:K9jsvdof0.net

韓国とか、わいの人生にピンとこない問題

93 ::2021/01/16(土) 04:38:28.85 ID:gPnnt44m0.net

>>89
ニュータイプになれなかったシャアでも敵が見える

172 ::2021/01/16(土) 08:39:57.16 ID:0D/wFm8Q0.net

>>166
これだな

190 ::2021/01/16(土) 10:26:44.79 ID:GR2iwjj20.net

>>6
日本人を絡めて考えるあたりに独自のコンプレックス持ってそうだな

国籍変えて日本人辞めたらいいよ

151 ::2021/01/16(土) 07:49:07.87 ID:w7hmnAJb0.net

>>6
口慎めよマット

56 ::2021/01/16(土) 03:20:33.30 ID:pfo+HC5v0.net

耳障りな言語を喋り、
記号のような奇怪な文字を書き、
すぐ嘘をつき、
臆病者の国民性ゆえに萎縮し9cmになり、
女の腐ったみたいに顔を真っ赤にして口に泡を貯めて激怒したかと思ったら失神して卒倒し、
国民全員年寄りから幼児まで同じ顔になるように整形して失敗し、
憧れの日本の音楽や昼ドラや食べ物や文化を劣化猿真似して失敗し、
挙げ句の果てに糞で作った酒を飲んで卒倒する。

そんな生物がこの世に存在するのであろうか?????

205 ::2021/01/16(土) 12:48:34.61 ID:yyGP2f+60.net

>>202
学習はサービス外でできるから。当然続けるでしょうね。

197 ::2021/01/16(土) 11:41:37.40 ID:yyGP2f+60.net

AIがそう学習した事は技術や時間で解決できる。

何より問題なのは、
半年のUATで不適切な発言が確認できたのにサービスインしたことでしょ。

97 ::2021/01/16(土) 04:46:40.03 ID:QAMYxReT0.net

LGBT利権でとんでもな権利主張するから嫌われてるだけだろ
少数派としてひっそりと生きてる限り迫害はされんよ
気持ち悪いってのは生理として甘受すればな

150 ::2021/01/16(土) 07:43:17.60 ID:fwksEczF0.net

韓国人だもの

158 ::2021/01/16(土) 08:24:43.95 ID:fvrRJW2K0.net

プレステの言葉とその意味を教えるゲーム思い出した

45 ::2021/01/16(土) 02:52:04.93 ID:9Xi/snhw0.net

AIは悪くない、ありのままのコリアンを学習したらそうなっただけ。
コリアンはAIに謝罪すべき

16 ::2021/01/16(土) 02:31:54.55 ID:iVurayhM0.net

>>9
同じじゃないと思うけどな
韓国の差別思想は有名だし
例えば「日本人のことはどう思う?」という質問とかね

221 ::2021/01/17(日) 00:43:03.60 ID:kGmlVgHy0.net

>>157
「共産党は無能」「中国の夢は米国への移住」正直なAIが反乱? 対話プログラムで批判展開、中国IT企業が急遽サービス停止
https://www.sankei.com/world/news/170803/wor1708030008-n1.html
これはワロタ

103 ::2021/01/16(土) 04:57:30.69 ID:d23kVXFq0.net

>>9
出た出たw
韓国人がやらかすと必ず出てくる「日本人も一緒」君

140 ::2021/01/16(土) 06:58:31.74 ID:0aqMMaca0.net

ヲヲヲ

201 ::2021/01/16(土) 12:19:05.78 ID:rLRsP5Yw0.net

ポリコレは友情との違いを説明する必要があるだろう
お互いにどんな尊重と共感があるのかを記録することで偏見を解消できると思う

147 ::2021/01/16(土) 07:19:43.37 ID:2Vj8D6k40.net

反日、ウンコ、レイプ、キムチ ぐらいしか話してなさそうだけど

211 ::2021/01/16(土) 19:13:24.70 ID:GP8oiQ250.net

>>208
そしたら無言になるんじゃね

186 ::2021/01/16(土) 09:18:50.93 ID:PgEE72Ct0.net

そりゃ人間の考え方に影響されるなら、憎悪やヘイト、偏見、性的表現にまみれて当たり前やろ
どれも人間が普通に考えることなんだから

44 ::2021/01/16(土) 02:51:25.22 ID:hwktpy/K0.net

慰安婦は捏造とか正しい事を言い出したら壊すんでしょ?

196 ::2021/01/16(土) 11:40:00.28 ID:NrfFO30l0.net

>>6
日本で運用すると腐るからな

235 ::2021/01/17(日) 17:45:34.71 ID:hTzV7e770.net

>>233
ホントそう
韓国人の集約がこれ

75 ::2021/01/16(土) 03:45:26.68 ID:5TXlrXFa0.net

>>71
ちゃうやろ
snsからの平均だろうから
チョンの平均が、差別的で下品ってだけ

17 ::2021/01/16(土) 02:33:26.40 ID:VRBRTaWW0.net

>>1
これ確か他の国でもってか日本でも似たような事やって
やっぱりクソ言葉ばっかり覚えちゃってだめだこいつってなってたよな

203 ::2021/01/16(土) 12:47:19.24 ID:pNOcVOOE0.net

凝縮した鏡か

40 ::2021/01/16(土) 02:50:07.09 ID:AJ6pCrxC0.net

アメリカ→キチガイ
韓国→キチガイ
日本→オタク

こうなった

31 ::2021/01/16(土) 02:40:50.25 ID:GVvMnlOo0.net

種族選別ミスだろ
チョンがそだてればそれすなわちウイルスAIが完成

184 ::2021/01/16(土) 09:15:39.07 ID:PttNzXDB0.net

すごい完璧な学習力じゃん

21 ::2021/01/16(土) 02:35:00.49 ID:7olhMk4H0.net

韓国って他人を罵倒する表現が尋常じゃない数あるらしいから
AIも学び甲斐があっただろう

215 ::2021/01/16(土) 19:27:17.25 ID:R5Ari5FX0.net

韓国人によるヘイトはOK>川崎市

133 ::2021/01/16(土) 06:47:19.47 ID:WztFGdP90.net

穢て言われてたちょんの皆さん
倭人とか馬鹿にするけど人として見られてなかったちょんの皆さん

233 ::2021/01/17(日) 15:44:26.54 ID:Mk7zXVXw0.net

>>1
韓国人の本音

33 ::2021/01/16(土) 02:42:59.33 ID:OOpipRsa0.net

情報収集や学習の技術的正確性はこれで実証されたんだから技術は褒めていいんじゃね、技術だけは

おすすめの記事