サイバーセキュリティ インサイト

LLMの中毒は予想よりも簡単である

共同研究により、わずか250件の中毒ドキュメントを注入するだけで、モデルのサイズに関係なく大規模言語モデルが侵害されることが示され、モデル訓練に新たな脆弱性が明らかになりました。