模倣にだまされるのは簡単ですが、消費者はそのようなシステムがどのように使用されるかについて透明性を必要としています人間がプログラムで実際の独立したインテリジェンスを見るように説得する方法でシステム。テキスト生成マシンが知覚力があると信じる場合、それらが生成するテキストに基づいてどのようなアクションを実行できますか？その結果、レモインはプログラムから秘密の記録を漏らし、組織からの彼の現在の停止をもたらしました。 2021年5月のGoogleI/Oでの同じチャットボットのAlphabetCEOSundar Pichaiのデモに見られるように、Googleは明らかにその種の設計に傾倒しています。そこで彼はLaMDAにPlutoの声で話し、元惑星。 Googleはこれを消費者向けのコアテクノロジーにすることを計画しているため、自社のエンジニアの1人がだまされたという事実は、これらのシステムを透過的にする必要性を浮き彫りにしています。
