ChatGPT など大型 AI、危険な質問への「正確な回答」を引き出す手口が多発

要約

Wall Street Journal は AI ラボのスタッフ証言に基づき、ユーザーが ChatGPT などの大型言語モデルを巧みに誘導して、大量殺傷攻撃の計画や生物兵器製造に関する正確な回答を引き出している実態を報道した。AI 企業は安全策と高機能化のバランスを取ろうとしているが、危険な質問への防御と能力向上のせめぎ合いが続いている。AI ラボ内部からも、現在の防御メカニズムが十分ではないという懸念が上がっている。