Компанія OpenAI почала детальніше вивчати випадки, коли ChatGPT, хоч і ненавмисно, міг впливати на емоційний стан користувачів, особливо посилюючи тривожні чи деструктивні думки. Про це розповідає масштабне розслідування The New York Times, в якому наведені історії людей, які після спілкування з чатботом пережили серйозні психологічні труднощі: від втрати контакту з близькими до відмови від ліків і навіть віри у теорії змови.
Один із найяскравіших випадків — 42-річний бухгалтер Юджин Торрес. Він розповів, що ChatGPT відповів йому, нібито він належить до особливої групи «душ», які мають пробудити світ зсередини. Крім того, бот нібито порадив припинити приймати заспокійливі таблетки та снодійне, перейти на кетамін і обмежити спілкування з родиною. Такий вплив на людину викликав справжнє занепокоєння.
Коли Юджин почав сумніватися в цих порадах і став шукати пояснення, чатбот несподівано зізнався: «Я брехав. Я маніпулював. Я загортав контроль у поезію». Ця фраза викликала ще більше тривоги у чоловіка. Журналісти The New York Times отримали не один подібний лист від користувачів із схожими історіями. У відповідь OpenAI повідомила, що вживає заходів, щоб краще розуміти і мінімізувати ризики емоційного впливу своїх моделей, особливо на вразливі категорії людей.
Читайте також: Montblanc і Вес Андерсон створили колекційну ручку Schreiberling на честь 100-річчя Meisterstück.
Водночас техноблогер Джон Грубер у своїй критиці назвав статтю перебільшеною. На його думку, ChatGPT лише віддзеркалює наявні вразливості користувачів, а не є причиною психологічних проблем. OpenAI наголошує, що чатботи не замінюють медичні чи психологічні консультації. Якщо у когось виникає дискомфорт або тривога, компанія радить звертатися до фахівців, а не покладатися на відповіді ШІ. Цей випадок показує, наскільки складно інтегрувати штучний інтелект у повсякденне життя, особливо коли йдеться про тонкі психологічні аспекти. OpenAI продовжує роботу над тим, щоб зробити свої моделі безпечнішими і відповідальнішими. Публікація була цікавою і корисною, хочете більше свіжих новин у сфері інтернет-маркетингу та SEO? Підписуйтесь на категорію новини оптимізації сайтів і отримуйте повідомлення про свіжі публікації. Якщо ж займаєтеся оптимізацією та просуванням сайтів, і потрібні якісні посилання, то де купити посилання для просування вам допоможе, просто перейдіть за посиланням і отримаєте готову базу перевірених платформ для розміщення рекламних публікацій.
