AI и небето

Халюцинации на AI: когато машината измисля

Халюцинация на AI е уверен, гладко звучащ отговор на езиков модел, който обаче е неверен или измислен. Моделът съставя вероятни изречения, а не проверява факти, затова за позиции на планети, дати на затъмнения и източници е най-сигурно да се ползват изчисления и първични публикации.

Всеки, който е разговарял с чатбот, е попадал на момента, в който отговорът звучи убедително, подробно и спокойно, а после се оказва грешен. Това явление се нарича халюцинация на AI (изкуствен интелект). В тази статия обясняваме какво означава, как изглежда в темите за небето и как Astronativa се пази от него.

Какво е халюцинация

Езиковият модел (на английски large language model, LLM) е програма, обучена върху огромно количество текст. Основната ѝ задача е да продължи текста по най-правдоподобния начин. Тя не „знае“ фактите като учебник или база данни, а е научила как обикновено звучат думите една до друга.

Поради това понякога се получава изречение, което е гладко и граматично вярно, но не отговаря на действителността. Именно това наричаме халюцинация: уверен, но неверен или напълно измислен отговор. Терминът е образен. Моделът не лъже нарочно. Той няма намерение да заблуждава, просто не прави разлика между „звучи вярно“ и „е вярно“. Разработчиците на AI и изследователските институции описват проблема открито и работят по намаляването му, но засега никой не твърди, че е изчезнал напълно. За по-широката картина вижте какво може и какво не може AI.

Типични примери с небето

Астрономията е силно подредена област с много числа, дати и имена, а точно там грешките са най-коварни. Ето какво може да се случи:

• Грешни дати. Моделът може да назове невярна дата за затъмнение, равноденствие или максимум на метеорен поток, защото в текстовете, от които се е учил, такива дати се срещат често и той „налучква“ правдоподобна.
• Невярна позиция на планета. На въпрос в кой знак е Марс на конкретен ден моделът може да отговори уверено, без изобщо да е смятал. Позицията на планетата е резултат от изчисление, а не от запомнен текст.
• Измислени източници. Понякога моделът цитира статия, автор или интернет адрес, които звучат реалистично, но не съществуват. Това е една от най-познатите форми на халюцинация.
• Смесване на понятия. Астрономически факт и астрологично твърдение могат да се слеят в едно изречение, например „Меркурий ретрограден причинява проблеми“. Ретроградното движение е привидно движение, което се дължи на перспективата, докато Земята и планетата се движат по орбитите си с различна скорост. Свързването му със събития е част от астрологичната традиция, не доказан факт. Повече за разликата четете в астрономия и астрология.
• Излишна точност. Модел може да даде число с много десетични знака, което изглежда научно, но е измислено.

Защо Astronativa не „пита“ AI за позициите

Позициите на Слънцето, Луната и планетите не са въпрос на мнение или памет. Те се изчисляват. За целта астрономите използват ефемериди (таблици или математически модели, които дават положението на небесните тела във всеки момент). Такива данни публикуват научни институции като JPL на NASA, чиято система за ефемериди е достъпна чрез ssd.jpl.nasa.gov.

Затова Astronativa следва простия принцип: числата идват от изчисление, думите идват от обяснение. Позициите на планетите за тримерното небе и за натални карти се смятат с ефемериди и астрономически формули. AI, когато участва, помага да се обясни, преведе или преразкаже вече изчисленото, но не измисля самите позиции. Подробностите са в ефемериди и точност и в изчисление срещу разказ.

Този подход е като разликата между калкулатор и разказвач: калкулаторът дава един и същи верен резултат всеки път, разказвачът може да украси историята. И двамата са полезни, но за различни неща.

Как да разпознаеш и провериш съмнителен отговор

Няколко прости навика помагат много:

1. Недей да вярваш на тона. Увереността на изказа не е доказателство. Гладкият текст може да е грешен.
2. Потърси втори източник. Дата на затъмнение или фаза на Луната можеш да свериш на страницата на NASA, ESA или на друга научна институция.
3. Провери цитатите. Ако отговорът посочва книга, автор или адрес, отвори го. Ако не съществува или не казва това, което се твърди, не го използвай.
4. Внимавай с изключително точни числа. Питай откъде идват. Ако няма ясен произход, приеми ги със съмнение.
5. Раздели фактите от прочита. Попитай: това измерване ли е, или тълкуване от традицията? Помага ти статията как да различим факт от прочит.
6. Питай по-добре. Конкретният въпрос, с посочена дата, час и място, дава по-малко място за налучкване. Съветите са в как да питаш AI за небето.
7. Позволи на модела да каже „не знам“. Добре е да поискаш изрично да уточни, когато не е сигурен.

За по-обща рамка за проверка вижте и AI проверка на факти.

Спокойно отношение

Халюцинациите не означават, че AI е безполезен. Той е добър в обяснения, обобщения и превод, стига да не му възлагаме ролята на източник на измерени данни. Най-здравословното отношение е като към усърден асистент: чуваме го с интерес, но важните числа проверяваме. Небето си остава там, където е, и можем винаги да го сверим с наука, наблюдение и малко търпение.

Позициите в Astronativa са астрономически точни. Тълкуването е за вдъхновение. · Речник · Условия · Поверителност