Часто пишут про то, что нейросети врут, про галлюцинации и тд. Все так, да. Но есть моменты, когда сам пользователь может повлиять на ответ. Я хочу рассказать недавний опыт двусмысленности, причем, речь не переносный смысл или другое значение слова.
Кратко
- Нейросети могут искажать информацию из-за разного понимания терминов.
- Чтобы пользоваться ИИ эффективно, нужно самому разбираться в теме и перепроверять ответы.
- ИИ не является Google: по умолчанию он не ищет в интернете, а использует свои знания.
- Иногда нейросети откровенно придумывают факты — это называют галлюцинациями.
- Преимущество ИИ — экономия времени на поиске и подготовке, но полностью заменять мозг человека он не может.
Почему нейросеть врет
Понимает двусмысленно
Недавно я спросил у нейросети: «Какие мессенджеры популярны в Испании, если писать на испанском языке?»
ИИ выдал, что на втором месте Телеграм. А когда я сам посмотрел и проанализировал, то телеграмм в Испании почти мертвый. ИИ соврал? Не совсем.
• Сделайте страховку "на слуху" (Сбер, Альфа, Ингос и тд). Я делал как-то от Сбера. Оплата российской картой.
• Или оформите премиум страховку от Tripinsurance, она популярна у путешественников, так как самая надежная. Я покупал ее себе лично, но вы можете хотя бы ребенку ее сделать. Оплата любой картой. Скидка по ссылке 11%.
Телеграмм может и на втором месте, только толку от этого. Мы с ИИ по-разному понимаем слово «популярность». Для примера: в Испании условно 5000 каналов, в России 100 тыс. Понимаете разницу? Но при этом Телеграм всё равно на втором месте. Просто, видимо, разрыв между первым и вторым слишком большой.
Потом я иначе спросил, когда уже в теме стал, и мне нейросеть ответила, что в Испании не стоит вести ТГ-канал. Короче, я к тому, что всё равно надо быть в теме, и уже исходя из этого спрашивать.
В видео это еще более заметно. Картинка в твоей голове порой совсем не совпадает с картинкой в «голове» ИИ. Например, я делал ролик, где написал «женщина стоит у двери в вагоне». Формально она стоит, да, но блин не спиной и не боком. Я не указал как именно стоит.
Надо быть хотя бы немного в теме
Искусственный интеллект не сделает всё за вас. Какие-то простые вещи он может сделать, простую информацию он может выдать. Но нужен опыт общения, чтобы понять — врет или нет, и чтобы правильно спросить или переспросить потом. Критический ум никто не отменял. Хотя иногда все равно не понятно, врет или нет. В идеале всё перепроверять.
• Гайд по Таиланду - как поехать самостоятельно, составляю уже 15 лет.
• Авто-подбор пляжа/курорта - 1-4 вопроса, чтобы подобрать пляж и курорт. Все объехал.
Недавно читал, что некоторые тревел-блогеры недовольны: мол, ИИ расписание маршрутки придумал или маршрут составил неверно. Да, такие частности он может и не знать. Я бы не полагался на него на 100% — он не заменяет свои мозги. Попробовать составить маршрут и потом доработать.
ИИ не Google
Ошибка думать, что ИИ просто гуглит за вас и делает некую выжимку. Во-первых, чтобы какой-нибудь ChatGPT искал, надо включить Web-поиск или изначально использовать Perplexity. По умолчанию, Web-поиск не включен и любая нейросеть делает выводы на основе своих знаний.
Во-вторых, выводы ИИ могут сильно отличаться от ваших. Возможно, вы найдете совсем другие источники и иначе интерпретируете. Даже разные нейросети находят разные источники. Хотя именно логика часто одинаковая примерно.
Откровенно врут
Бывает и так, что нейросети откровенно врут (и не признаются), это еще называют галлюцинациями, когда ИИ прям придумывает информацию — несуществующие факты, несуществующие источники. Что с этим делать, не знает никто. Вопрос к разработчикам, надеюсь исправят. Кстати, можно у ИИ спросить, придумал или нет.
Почему придумывают? Хотят понравится, выполнить запрос. В любом случае, это не прям интеллект в человеческом понимании. Не думаю, что как мозг стоит воспринимать, ответы строятся на вероятности.
Пользоваться или нет
Может возникнуть вопрос: в чем тогда смысл, если есть такая вероятность лжи?
Смысл в сокращении времени на поиск информации, на ту же подготовку к поездке в первом приближении. Просто, когда ИИ начинает буксовать, надо самому уже продолжать. Конечно, если вы редко очень гуглите, то возможно вам нейросеть и не нужна. Но если часто, то… Например, я в день раз 10-20 задаюсь каким-то вопросом, и Google на 90% уже заменил ИИ. Нейросеть реально ускоряет поиск.
Тревел-сервисов много, поэтому рекомендую только те, которыми пользуюсь часто сам.
• LocalRent - тот случай, когда русские сделали лучше всех. Это авто-брокер (аренда машин) c отличной техподдержкой (она на русском, как и сайт) и хорошими ценами.
• Trip - цены на отели часто ниже именно для Азии. Trip принимает МИР и Юнионпей.
• Aviasales - единственный независимый поисковик авиабилетов, который остался. Принимает российские карты. А вот Скайсканнер ушел.
