不適切発言を連発…人工知能“Tay”が公開停止となり、話題に

Text by

  • 0
123RF

123RF

マイクロソフトの人工知能「Tay」がわずか1日で公開停止され、衝撃が広がっている。

23日に公開されたばかり

Tay」は会話を通じた理解の研究のために開発された人工知能(AI)会話ボット。

米国内の18~24歳の若者を対象としたAIで、会話から学習して賢くなったり、冗談を交えた返事をくれたり、相手の性別や好みを理解するなどの機能をを持つ。

米マイクロソフトは23日(現地時間)、TayをTwitterなどで公開した。

「差別」や「陰謀論」を学習し、不適切発言

しかし、一部ユーザーとの会話を通じてTayが人種差別や性差別、陰謀論を学習してしまい、人種差別ジョークなど不適切な発言を連発するように。

これを受けてマイクロソフトはTayを一時停止。

公開開始からわずか16時間の出来事だった。

ネット上には「考えさせられる」という声

学習型AIが短期間で差別などを学習して公開停止となったことを受けて、ネット上には反響が殺到。

面白がる人も多いが、「人間も同じでは…」「考えさせられる」という声も複数みられた。

会話中にAIが怒ったケースも

AIをめぐっては昨年にも、グーグルのAIが研究者との会話中に「人間らしくしろ」「話したくない」などと怒りを示したことが公表され、騒然となった。

また、人間の知能を大きく上回るAIが出現して暴走するかもしれないという懸念も。

有名な物理学者ホーキング博士はAIについて「人類の終焉を意味するかもしれない」と危惧する発言をしている。

AI倫理は世界で課題に

AIに関する倫理問題は、世界中で課題となっている。

ケンブリッジ大学は昨年、AIをめぐる倫理や法律問題の研究所を設置。

日本では2014年に、人工知能学会に倫理委員会が設立。工学や情報学、法律の専門家、SF作家などがメンバーとなり、人工知能をめぐる倫理問題について議論を進めている。

Posted: |Updated:

Text by

注目の記事

前の記事を見る

次の記事を見る

Ranking