Фалшиви цитирания: защо отговорите на AI с посочени източници все пак може да са погрешни

Когато AI генерира отговор с цитирания, той може да изглежда достоверен, но самите цитирания да са напълно измислени. Например моделът може да измисли заглавие на научна статия, автор и година, които звучат правдоподобно, но не съществуват. Възможно е също да цитира реален източник, но да изопачи действителното му съдържание, например да твърди, че дадено изследване подкрепя определен извод, когато в него се казва точно обратното. Това се различава от обикновена фактическа грешка — то е халюцинация, която създава фалшиви доказателства и така придава на отговора по-голяма привидна достоверност, отколкото заслужава.

За да разпознаете фалшивите цитирания, проверете дали източникът е реален, като потърсите заглавието и автора. Ако не можете да го откриете, приемете твърдението за неподкрепено. Следете и за неясни или общи позовавания от рода на „проучване от 2023 г. установи…“, без да са посочени конкретни данни — това е предупредителен знак. В изпитен контекст, ако въпросът е свързан с проверката на резултати от AI, помнете, че винаги трябва да се връщате към оригиналния документ, вместо да се доверявате на обобщението на AI. Бърз похват: запитайте се „Бих ли заложил работата си на това, че цитираният източник е истински?“. Ако не, проверете го.

Кратък начин да запомните това е: „AI може да цитира призраци“. Представете си призрак, който държи фалшива диплома — тя изглежда официална, но не е истинска. Когато видите цитиране, предоставено от AI, отнесете се към него като към този призрак: проверете достоверността му, преди да разчитате на него. Този мисловен образ ще Ви помогне да запомните, че цитиранията не са доказателство и че проверката е единствената безопасна стъпка.