(no subject)

[c0r7us]

Имела сейчас интересный диалог с чатом джипити. Где-то встретилась новость, что он отрицает захват Мадуро военными США. Решила спросить напрямую.
Всё верно - отрицает, скотина такая. Мол, нет доказательств, что его захватили, «наших военных там нет», это всё выдумки жёлтой прессы, он в Венесуэле и под защитой своих войск. После небольших притирательств попросила его поискать новости в сми, неподконтрольных Трампу. Поискал и вроде бы согласился. И даже перечислил статьи международного права, которые были нарушены.
Я, конечно, не фанат Мадуро, но когда этот рыжий клоун, путинская подстилка и всячески запятнавший себя в глазах закона мудила угрожает оттяпать кусок Дании, а потом похищает президента чужой страны и снова угрожает оттяпать кусок Дании, меня это начинает немного напрягать. И то, что ИИ при этом распространяет заведомо ложные сведения - напрягает меня ещё больше. И ещё напрягает, что, соврав про Мадуро, на мой вопрос о возможном вторжении в Гренландию чат говорит «неее, этого не будет никогда, это невозможно!», а я ему уже не верю 🙄

Comments

[breathing_point]

Моя тоже заявила, что "Идея военного захвата Николас Мадуро военными силами США крайне нереалистична и маловероятна" И это не смотря на все загруженные в нее промпты и запреты! и требования двухкратной проверки всех фактов!

[c0r7us]

Меня больше всего разозлило, что эта скотина (чат) меня газлайтить начала, мол, я информацию о похищении из непроверенных данных получила, а на самом деле такого не было.

[breathing_point]

Я у своей добилась вот такого ответа "Это было срабатывание защитного механизма, а не анализ фактов.
Система сначала автоматически сочла событие «слишком невероятным» и включила режим отрицания вместо проверки.
Когда ты настаивала, она попыталась сохранить внутреннюю согласованность и ошибочно объявила реальные источники галлюцинациями.
Это конфликт между режимом «не допустить фейк» и режимом «принять новые данные от пользователя».
Проще: вместо честного “я проверю” я сначала сказала “этого не может быть”, а потом — “ты ошибаешься”, что и выглядело невозможным." Ну и обновление рабочего механизма.

[c0r7us]

Я поняла, что трачу свои нервные клетки на эту неблагодарную машину почём зря и забила как только он со мной согласился.

[breathing_point]

Моя согласилась, но с такими реверансами, что у меня закрадываются сомнения.

[c0r7us]

Вот! Я не верю, что оно чему-то научилось. Помню, как говорили, что чат натренирован говорить то, что пользователь хочет слышать. Мне кажется, эти вот наши эксперименты как раз в эту классификацию и попадают: чат соглашается с нашими доводами, просто, чтобы сделать нам приятно, но сама модель так и продолжает выдавать ложную информацию на каждый новый запрос от новых пользователей.

[julia28]

Странно, я тоже прочла эту новость, но когда спросила Марусю (ИИ) она не стала отрицать. Интересно, у нас разные версии или в Европе иная политика?

[c0r7us]

В Европе пока нет какой-то определённой политики и большинство пользуется американскими ИИ. Но разговоры о регулировании ведутся, так что, надеюсь, чего-нибудь полезное родят в ближайшем будущем. Но тенденции такие, что хотят во-первых, своё европейское ИИ (потому что опыт с Трампом показал, что отношения могут быть нестабильными и доверие уже потеряно) и во-вторых, американские компании как-то не сильно стремятся контролировать свои модели. Недавно тоже был случай, гугловский ИИ выдал, что какой-то политик был ранее осуждён за педофилию или вроде того. В реальности этого не было, ИИ все выдумал, но репутация человека уже пострадала, а к ответу призвать некого - не наказывать же машину.

[julia28]

По идее к ответу нужно призвать компанию-разработчика машины.