#45
Jak wykryć, że AI zmyśla (trening czujności)
Kiedy użyć: Odpowiedź brzmi niesamowicie mądrze, ale chcesz sprawdzić, czy to nie zgrabna bajka
Naucz mnie weryfikować Twoje odpowiedzi. Na przykładzie mojego pytania z dziedziny [temat lub pytanie do weryfikacji] pokaż mi: 1) które elementy Twojej odpowiedzi to twarde fakty łatwe do sprawdzenia, a które to gładka narracja lub uogólnienie, 2) jakie 2 pytania kontrolne powinnam Ci zadać, żeby obnażyć ewentualne zmyślenie (halucynację), 3) po jakich słowach najczęściej poznać, że model językowy zgaduje zamiast wiedzieć. Bądź ze mną w 100% szczery. Jeśli w treści powyżej zostały niewypełnione nawiasy kwadratowe [...] lub brakuje Ci danych, nie zostawiaj nawiasów w odpowiedzi — dopytaj mnie o to jednym pytaniem, zanim zaczniesz pisać.
Co może pójść nie tak i jak to naprawić?
- ✕Zapytany „czy jesteś pewien?", model często broni swojej wcześniejszej konfabulacji.
- ✕AI potrafi wygenerować realistycznie brzmiące, ale nieistniejące tytuły ustaw lub książek.
Rozwiązanie Zosi: Sprawdź krytycznie swoją poprzednią odpowiedź: wskaż wszystkie daty, liczby, nazwy własne i przepisy, przy których istnieje choćby 5% ryzyka, że mogłeś je pomylić lub połączyć z dwóch różnych źródeł.