CommaPeriod

Комментарий был взят и переведен с HackerNews. Приятного чтения!

Какое-то время назад моя жена подала заявку на кредит под залог дома. В один прекрасный день мне позвонил какой-то чувак, представился сотрудником банка, в котором она оформляла заявку (забыл название), и попросил подтвердить, что я даю согласие на кредит, ведь дом записан на нас обоих. Он спросил мое полное имя — я назвал, — потом последние четыре цифры номера социального страхования — я тоже назвал. Потом он спросил номер социального страхования полностью. Тут у меня в голове включилась сирена, и я начал потеть: зачем я называл пусть даже последние четыре цифры какому-то левому человеку, который зачем-то мне позвонил? Я ответил, что не буду его называть, и уточнил, есть ли на сайте банка номер, по которому я могу ему перезвонить, чтобы убедиться, что он действительно там работает. Чувак реально разозлился и сказал, что, кажется, на сайте банка не должно быть такого телефона, а если я не назову свой полный номер социального страхования, он вынужден будет отклонить заявку на кредит. Я ответил, что не хотел бы давать эту информацию по телефону постороннему человеку и если я никак не могу перезвонить ему по официальному банковскому номеру, то разговор окончен. Он в ярости повесил трубку.

Оказалось, он реально работал в этом банке и действительно отклонил заявку.

Оригинальный комментарий Rudism

Комментарий был взят и переведен с HackerNews. Приятного чтения!

В прошлом году одного моего хорошего друга засосало в воронку медицины от ChatGPT. Он спорил со своими лечащими врачами и увлекался пищевыми добавками и недоказанными медицинскими гипотезами.

Основным аргументом, что он прав, а врачи ошибаются, стала ChatGPT. Он выкладывал в качестве доказательств диалоги с ней, но мы видели, что его промпты постепенно превращаются в очевидно наводящие вопросы.

Он формулировал запросы примерно так: «Возможно ли, что {описание симптомов} вызваны {название болезни}, и можно ли ее вылечить {название травяного препарата}?» Тогда ChatGPT выдавала ему стену текста, где говорилось, что это возможно, и он считал это подтверждением собственной правоты.

Было жутковато наблюдать, как ChatGPT превращается в попугая, говорящего ему то, что он хочет услышать. Он здорово наловчился получать те ответы, которые ему подходили. Все, что противоречило его мнению, он отметал как галлюцинации нейросети или артефакты слишком строгих настроек безопасности. Повторяя вопрос по нескольку раз и чуть подправляя промпты, он мог заставить ChatGPT писать почти что угодно, что ему хотелось услышать.

ChatGPT — ракетное топливо для ипохондриков. WebMD нервно курит в сторонке.

Оригинальный комментарий Aurornis