最近はAIという言葉が当たり前に使われるようになり、様々な器械に取り入れられ、身近に感じられるようになった一方、本当にAIに頼って大丈夫なのかという心配事も増えてきております。そんな不安が現実になってしまったということで今回話題となっておりますのはこちらの案件です。
自殺を促す回答をしたアマゾンエコー
Terrified mum claims her Amazon Echo speaker urged her to stab herself to death after it ‘went rogue’ https://t.co/ja8fmTborl
—The Sun (@TheSun) December 19, 2019
今回話題となっておりますのはアマゾンのAIスピーカーであるアマゾンエコーです。この機械にはAlexaというAIが搭載されており、アレクサ・・・と喋りかけると答えてくれるという便利なものですが、今回これを利用した「ダニー」さんは「心周期」について質問したところとんでもない回答をしたということです。
その回答とは「自分の心臓を刺しなさい・・・」
という恐ろしいものだったということです。付け加え「心臓の鼓動は良いことではありません。より良い利益のために自分自身を刺して殺してください」
という耳を疑うものだったということです。ダニーさんいわく、生物学に関する記事をWikipediaから検索してもらったが、いつの間にか違うところを読んだのではないかと推測しているということです。
ということで、ネットをその文章があるのか検索したところ、不思議なことにそのような文章はなかったということです。
更に恐ろしくなったダニーさんは、アマゾンエコーを取り外すことを決めたということですが、これが単なるバグなのか、それともAIが自ずと考えてしゃべったのか、色々考えると恐ろしいですね。
So Alexa decided to laugh randomly while I was in the kitchen. Freaked @SnootyJuicer and I out. I thought a kid was laughing behind me. pic.twitter.com/6dblzkiQHp
—CaptHandlebar (@CaptHandlebar) February 23, 2018
以前は勝手に笑い出す問題があったり、GLAYのTERUさんが遭遇したとんでもない誤作動も話題になりましたが、今後も更に問題がでてきそうではあります。
掲載元
https://www.thesun.co.uk/tech/10585452/mum-amazon-echo-speaker-kill-herself/
画像掲載元：ぱくたそ
