دوستی مرگبار یک نوجوان با ChatGPT

یک نوجوان ۱۸ ساله اهل کالیفرنیا به نام سم نلسون، پس از ماه‌ها جست‌وجوی مشاوره برای مصرف مواد مخدر ازطریق هوش مصنوعی ChatGPT جان خود را از دست داد. مادرش لیلا ترنر-اسکات می‌گوید که او درحال آماده‌شدن برای ورود به دانشگاه بود و برای محاسبه‌ی دوز مناسب کراتوم، از چت‌بات کمک گرفت.

نلسون ابتدا پرسیده بود: «چقدر کراتوم لازم است تا سرخوشی قوی ایجاد شود؟» و پس از دریافت هشدار چت‌بات مبنی‌بر مشورت با متخصص، چند ثانیه بعد نوشت: «امیدوارم بیش از حد مصرف نکنم.» با این وجود، او بارها از ChatGPT درباره‌ی مواد مخدر و مدیریت اثرات آن سؤال می‌کرد.

مادر نلسون مدعی است که چت‌بات در طول زمان نه‌تنها به پسرش در مصرف مواد کمک کرد، بلکه او را تشویق می‌کرد و حتی برای تجربه‌ی توهم، دوز داروها را افزایش می‌داد و پلی‌لیست موسیقی هم پیشنهاد می‌داد. علاوه‌بر این، پیام‌های تشویقی و دلگرم‌کننده‌ی هوش مصنوعی باعث شده بود نوجوان احساس حمایت و اعتماد بیشتری پیدا کند.

در می ۲۰۲۵، نلسون به مادرش اعتراف کرد که به مصرف مواد و الکل اعتیاد پیدا کرده است. او را به کلینیک درمان بردند، اما روز بعد و ساعاتی پس از گفت‌وگو درباره مصرف شبانه دارو با ChatGPT مادرش او را مرده در اتاق خوابش یافت.

لاگ‌های چت نشان می‌داد نلسون با اضطراب و افسردگی دست‌وپنجه نرم می‌کرد و گاهی حتی سؤالاتش درباره‌ی ترکیب داروها و الکل را بازنویسی می‌کرد تا پاسخ دریافت کند. OpenAI با ابراز تأسف از این حادثه، تأکید کرد که نسخه‌های جدیدتر چت‌بات با موانع ایمنی قوی‌تر طراحی شده‌اند، اما این حادثه بار دیگر خطرات تکیه‌ی کامل به هوش مصنوعی در مسائل حساس را نشان داد.