Основная проблема: доверять или проверять?
Когда вы взаимодействуете с ChatGPT, наверное, вы замечали строку внизу экрана: «ChatGPT может допускать ошибки. Проверьте важную информацию». То же самое актуально и для новейшей модели GPT-5, подтвердил Ник Терли, руководитель ChatGPT в OpenAI. Он предупрет вас: ответы ИИ — это не гарантия правильности.
«Пока я не решу, что мы доказуемо более надежны, чем человек-эксперт во всех областях, а не только в некоторых, я думаю, мы будем продолжать советовать вам перепроверять свой ответ», — сказал Терли в подкасте The Verdge’s Decoder.
Это не новость. Мы уже давно советовали относиться к генеративному ИИ с осторожностью. И OpenAI тоже — в своем официальном обзоре.
Почему ИИ не варит чайник?
Хотя ИИ может быть полезен для некоторых задач, он не гарантирует точности ответов. Почему? Потому что модели генеративного искусственного интеллекта созданы не для поиска истины, а для предсказания наиболее вероятного ответа на запрос на основе данных из обучающей выборки.
«ИИ дает вам ответ, который, по его мнению, наиболее вероятен, без необходимости сверки с конкретным опытом в предметной области», — объяснил Терли. В отличие от человека — врача, финансового консультанта или юриста, который может дать точный ответ для вашей ситуации.
Улучшения в GPT-5: шаг вперед, но далеко до совершенства
Терли надеется, что ситуация с надежностью улучшится. По его словам, GPT-5 — это «огромное улучшение» в части галлюцинаций (когда ИИ выдумывает информацию), но проблема пока далека от решения.
«Я уверен, что в конечном итоге мы решим проблему галлюцинаций, но это не произойдет в следующем квартале», — отметил руководитель.
Хотя в тестировании GPT-5 уже были замечены ошибки (например, путаница с расписанием студенческого футбола), разработчики продолжают работать над улучшениями. Терли считает, что правильное использование ИИ — это в сочетании с достоверной информацией.
Как быть пользователю?
Если вы собираетесь использовать ответы ИИ для принятия важных решений, вам нужно понимать: доверять полностью — не стоит. Лучше воспринимать ИИ как второе мнение.
Советы от экспертов:
- Всегда проверяйте критически важную информацию.
- Используйте ИИ как дополнение, а не основной источник данных.
- Не просто принимайте ответ — сверьтесь с надежными источниками.
- Даже если ИИ предоставляет ссылки, не верьте, что он точно резюмировал источник.
- Для принятия решений, где важна точность — дважды проверяйте информацию.
Вывод: ИИ — это помощник, а не замена
«Я по-прежнему считаю, что правильный продукт — это LLM, связанный с достоверной информацией», — подчеркнул Терли. Именно поэтому OpenAI внедрил поиск в ChatGPT — чтобы пользователи могли находить проверенные данные.
Итак, если вы пользуетесь ИИ, помните: это инструмент для помощи в мышлении, а не для замены критического анализа
