Tool Hallucination
Modelin mevcut olmayan bir aracı, parametreyi veya araç sonucunu gerçekmiş gibi üretmesi.
Araç halüsinasyonu, ajan sistemlerinde uydurma API adları, geçersiz alanlar veya çalıştırılmamış bir eylemin tamamlandığını iddia etme biçiminde görülür. İzinli araç listesi, yapılandırılmış şema ve sonuç makbuzu denetimleriyle azaltılır.
Üye yorumları