ニューヨーク市の AI チャットボットが企業に法律を破るよう指示しているのが捕まった。市は撤去してないよ
ニューヨーク（AP通信） - 中小企業経営者を支援するためにニューヨーク市が開発した人工知能を活用したチャットボットが、地域の政策を誤って述べ、企業に法律違反を勧告する奇妙なアドバイスを提供したとして批判を受けている。しかし、この問題が先週、テック系報道機関 The Markup によって最初に報告されてから数日後、市はこのツールを政府の公式 Web サイトに残すことを選択した。エリック・アダムス市長は今週、チャットボットの回答が「一部の分野では間違っていた」と認めながらも、この決定を擁護した。事業主向けの「ワンストップ ショップ」として 10 月に開始されたこのチャットボットは、市の官僚的な迷路をナビゲートするための質問に対して、アルゴリズムで生成されたテキスト応答をユーザーに提供します。それには、「不正確、有害、または偏った情報を時々生成する可能性がある」という免責事項が含まれており、その回答は法的アドバイスではないという警告がその後強化されています。虚偽のガイダンスを流し続けており、バグだらけのシステムは政府が十分なガードレールなしでAI搭載システムを導入する危険性を浮き彫りにしていると専門家らを悩ませている。ニューヨーク大学のコンピュータサイエンス教授で責任あるAIセンター所長のジュリア・ストヤノビッチ氏は、「彼らは監視なしに、証明されていないソフトウェアを展開している。彼らが何をするつもりがないのは明らかだ」と語った。責任があるよ。」水曜日に提起された質問に答えて、チャットボットは、セクハラについて苦情を言ったり、妊娠を明らかにしなかったり、ドレッドヘアを切ることを拒否したりする労働者を雇用主が解雇するのは合法であると誤って示唆した。Source: Times Union
関連銘柄：H&Rブロック (HRB)マイクロソフト (MSFT)
