![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
話題のChatGPT。いろんな質問例がTwitterに上がっていて未来を感じさせてくれます。
「何か書きたい、伝えたいという気持ちがあっても完成までこぎ着けられずに脱落してしまうクリエーターも一定数いる」（同社）。そこをつなぎ留めるのが、対話型AIに期待している役割の一つなのだという。
【疑問3】ChatGPTはなぜ人間の意図が分かるの？ 【答え3】大量の文章データを事前学習したうえで、さらに大量の会話データのサンプルと「人間の感覚」を表す大量のデータをそれぞれ人海戦術で用意し、それらを使って追加学習したため。つまり人間を教師として人間の感覚を学んだ。
具体的には、PDF ドキュメントに対して自然言語で問い合わせをすると、自然言語で結果が返ってくる、というものです。
しかし特殊な質問によって制限を突破し、サービス提供側が想定していない回答を引き出す手口が出現している。この手口は「プロンプトインジェクション」と呼ばれる。
社外秘の情報を盗み出したハッカーは、「インターネットで公開されたくなければ、金銭を支払え」と脅すことができるし、闇市場で別のハッカーに情報を売り飛ばすことも可能だ。
