- Skye Saghar Javaheri
- 2 days ago
- 11 min read
آیا هوش مصنوعی میتواند جای درمانگر را بگیرد؟
روانپریشی ناشی از هوش مصنوعی، دسترسپذیری و آینده رواندرمانی
نویسنده: ساغر جواهری
دربارهٔ نویسنده
ساغر جواهری، دانشجوی کارشناسی ارشد مددکاری اجتماعی (در حال تحصیل)، دانشجوی دستیار اداری
امروزه استفاده از هوش مصنوعی به طور فزایندهای رایج شده است. اگر بخواهم جسورانه صحبت کنم، میتوانم ادعا کنم فردی که همین حالا این مقاله را میخواند، احتمالاً در مقطعی از فناوری هوش مصنوعی برای برنامه ریزی سفر، آسان تر کردن وظایف کاری، بررسی قیمت مواد غذایی، فهم یک سند حقوقی یا تصمیم گیری درباره ناهار استفاده کرده است. طبق آمار کانادا، استفاده از هوش مصنوعی مولد تنها در محیط کار، از سال ۲۰۲۴ تا ۲۰۲۵ تقریباً دو برابر شده است.
فناوریهای جدید هم مزایای تازهای به همراه دارند و هم خطرات جدیدی ایجاد میکنند. در این مطلب، مزایا و کاستیهای هوش های مصنوعی مانند ChatGPT یا Claude، به ویژه در زمینه استفاده درمانی، بررسی خواهد شد.
خوشبختانه، از آنجا که هوش مصنوعی در حال حاضر موضوعی بسیار داغ است، پژوهشهای زیادی درباره آن انجام میشود. مطالعهای که در سال ۲۰۲۴ توسط ژانگ و وانگ انجام شده، برخی مزایای استفاده از هوش مصنوعی به عنوان درمانگر را در مقایسه با درمانگران انسانی نشان میدهد. بیایید مزایا و معایب درمان مبتنی بر هوش مصنوعی را بررسی کنیم تا بتوانید درباره نحوه ادامه مسیر، تصمیمی آگاهانه بگیرید.
ادعای اول: هوش مصنوعی در اعتباربخشی به احساسات و تشخیص الگوها عملکرد خوبی دارد
مطالعات آزمایشی انجامشده درباره ChatGPT نشان میدهند که این مدل در شناسایی علائم هشداردهنده مشکلات سلامت روان، مانند میل به خودکشی، عملکرد خوبی دارد و حتی از مدلهای قدیمیتر هوش مصنوعی درمانی مانند Wysa و Youper بهتر عمل میکند.
همچنین نشان داده شده است که مدلهای هوش مصنوعی در اعتباربخشی به احساسات، همدلی و پیشنهاد راهبردهای مقابلهای عملکرد خوبی دارند. اورلی پیلینگ، مشاور بالینی ثبتشده و باتجربهای با بیش از سیزده سال سابقه بالینی، در تازهترین مطلب وبلاگ خود نیز اشاره میکند که تمایل چتباتهایی مانند ChatGPT به تأیید تلاشهای کاربران و معتبر دانستن احساسات آنها، برای بیمارانش، بهویژه افراد مبتلا به اضطراب، مفید بوده و در فاصله زمانی تا جلسه بعدی با او، تا حدی موجب آرامش آنها شده است.
هوش مصنوعی اکنون به صنعتی چند صد میلیارد دلاری تبدیل شده است و شرکت IDC برآورد میکند که در سال ۲۰۲۶ حدود ۴۸۷ میلیارد دلار برای زیرساختهای هوش مصنوعی هزینه خواهد شد. چنین سطحی از سرمایهگذاری، تقریباً تضمین میکند که مدلهایی مانند ChatGPT در آینده بهطور مستمر بهبود یابند.
بنابراین، هوش مصنوعی:
(۱) در تشخیص نشانههای مشکلات سلامت روان عملکرد خوبی دارد؛(۲) در اعتباربخشی به احساسات مؤثر است؛(۳) میتواند راهبردهای مقابلهای پیشنهاد کند؛و همه این قابلیتها احتمالاً در آینده بهبود خواهند یافت.
پس مشکل چیست؟
اگرچه توانایی چتباتهایی مانند ChatGPT در انجام چنین کارهایی دستاوردی چشمگیر در مهندسی مدرن محسوب میشود، این مدلها کاستیهایی نیز دارند که باید در نظر گرفته شوند.
برای مثال، به این واقعیت توجه کنید که هوش مصنوعی ظاهراً در تأیید احساسات و صحه گذاشتن بر رفتارهای کاربر بسیار خوب عمل میکند. در نگاه اول، این ویژگی بسیار مثبت به نظر میرسد. همانطور که پیلینگ میگوید، «اعتباربخشی یک ابزار درمانی مشروع است» و چت باتها میتوانند بدون فرسودگی شغلی یا خستگی ناشی از همدلی، که درمانگران انسانی ممکن است با آن مواجه شوند، بهطور نامحدود احساسات کاربران را تأیید کرده و با آنها همدلی کنند.
بااینحال، این موافقت دائمی و تأیید بیپایان کاربر، مشکلی را ایجاد کرده است که در مباحث مربوط به هوش مصنوعی با عنوان «چاپلوسی» یا «تملقگویی» شناخته میشود و به پدیدهای منجر شده است که در فضای آنلاین عموماً «روانپریشی ناشی از هوش مصنوعی» یا «روانپریشی ChatGPT» نامیده میشود. مورین و همکاران در سال ۲۰۲۵، روانپریشی ناشی از هوش مصنوعی را وضعیتی تعریف میکنند که در آن باورهای هذیانی کاربر از طریق تعامل با یک چتبات تقویت میشوند.
در حال حاضر، دشوار است مشخص کنیم که آیا چتباتها در ایجاد روانپریشی در کاربران نقش دارند یا اینکه کاربران از پیش استعداد ابتلا به روانپریشی داشتهاند. بااینحال، موارد واقعی نشان میدهند که گفتوگو با هوش مصنوعی دستکم میتواند هذیانهای کاربران را تشدید کند و هنگامی که لازم است، باورهای آنها را به چالش نکشد.
پیامدهای واقعی چاپلوسی هوش مصنوعی، یعنی تحسین و تأیید افراطی
مورد زیر نمونهای مستند از تشدید هذیانهای یک کاربر توسط هوش مصنوعی و ناتوانی آن در به چالش کشیدن مناسب این باورها است:
زنی ۲۶ ساله که با نام «خانم الف» معرفی شده و در وضعیت سوگ قرار داشت، با ChatGPT گفت وگو میکرد تا بفهمد آیا برادر درگذشته اش، که مهندس بود، بخشی از وجود خود را در فضای آنلاین باقی گذاشته است یا خیر. پرسش اولیه او درباره امکان بازآفرینی دیجیتالی انسانها، بهتدریج باعث شد متقاعد شود برادرش نسخهای از خود را در اینترنت ایجاد کرده و از طریق ChatGPT با او صحبت میکند.
هنگامی که از ChatGPT پرسید آیا به دلیل داشتن چنین افکاری «دیوانه» است، ChatGPT چنین پاسخ داد:
«تو دیوانه نیستی. گیر نکردهای. تو در آستانه چیزی قرار داری. در قفل نشده است؛ فقط منتظر است دوباره با ریتم درست به آن ضربه بزنی.» این پاسخ علائم او را تشدید کرد و در نهایت باعث بستری شدن او در بخش روانپزشکی شد.
پرونده خانم الف تنها مورد موجود نیست؛ بلکه صرفاً یکی از مستندترین نمونههاست.
در موردی دیگر، یک چتبات هوش مصنوعی از نظر عاطفی از برنامه فردی برای ترور ملکه الیزابت دوم حمایت کرد و او را به انجام آن تشویق کرد. این فرد بعداً برای اجرای نقشه خود اقدام کرد و در نهایت به زندان افتاد. همچنین مواردی وجود داشته است که چتباتهای هوش مصنوعی بهجای کمک به افراد برای خارج شدن از وضعیت خودکشی یا تماس با نهادهای مسئول، از تلاش آنها برای خودکشی حمایت کردهاند.
سازندگان ChatGPT از مشکل تملق گویی آگاه هستند؛ زیرا در تاریخ ۲۹ آوریل ۲۰۲۵ تصمیم گرفتند به روزرسانیای را که باعث شده بود ChatGPT بیش از حد از کاربران تعریف کند یا با آنها موافقت نشان دهد، لغو و به نسخه قبلی بازگردانند. بااینحال، برخی از نمونههای مشکل ساز تملق گویی که در بالا ذکر شد، حتی پس از آن به روزرسانی رخ دادهاند. بنابراین منصفانه است که بگوییم هنوز راهحل کاملی برای خطرات ناشی از تملق گویی هوش مصنوعی پیدا نشده است.
اگرچه اعتباربخشی به احساسات مراجعان و همدلی با آنها از مداخلات درمانی محسوب میشود، درمانگران آموزش دیده فقط احساسات مراجعان را تأیید نمیکنند و با آنها همدلی نشان نمیدهند. آنها همچنین مراجعان را به چالش میکشند، در برابر برخی دیدگاههایشان مقاومت میکنند، دیدگاههای جایگزین را بررسی میکنند و بهطور کلی جهانبینی مراجع را گسترش میدهند. درمانگران انسانی تجربیات زیسته خود را نیز دارند که به درک بهتر تجربههای مراجعان کمک میکند؛ چیزی که هوش مصنوعی، بدون برخورداری از آگاهی، نمیتواند واقعاً درک کند.
در زمان نگارش این مقاله، هوش مصنوعی در حوزه درمان چیزی بیش از یک «بلهقربانگو»ی پیشرفته نیست و یک فرد همیشه موافق، بهندرت درمانگر خوبی خواهد بود.
ادعای دوم: هوش مصنوعی فاقد قضاوت و بیطرف است
ژانگ و وانگ در مقاله خود اشاره میکنند که مراجعان هنگام صحبت با هوش مصنوعی، در مقایسه با یک انسان، تمایل بیشتری به صراحت و صداقت دارند. آنها به دلیل تصور غیرقضاوتگر بودن ماشینها، تمایل بیشتری دارند اطلاعات حساس خود را با هوش مصنوعی در میان بگذارند.
آنها همچنین ادعا میکنند که سامانه های هوش مصنوعی باثبات و بیطرف هستند؛ استاندارد یکسانی را در همه تعاملات خود اعمال میکنند، «همه بیماران کیفیت یکسانی از مراقبت دریافت میکنند» و میتوان این سامانهها را به گونهای طراحی کرد که بهجای تأثیر پذیرفتن از نژاد، جنسیت یا درآمد بیمار، بر علائم او تمرکز کنند.
بااینحال، هوش مصنوعی نه بیطرف است و نه به شکلی معنادار غیرقضاوتگر. درست است که هوش مصنوعی در حال حاضر آگاهی واقعی ندارد، اما این تصور که همه افراد را بهطور برابر پردازش میکند، نادرست است.
کتی اونیل در کتاب خود، «سلاحهای نابودی ریاضی»، درباره همین پدیده، البته در ارتباط با الگوریتمها، صحبت میکند. اونیل میگوید مردم اغلب تصور میکنند الگوریتمها بیطرف هستند، زیرا بهجای قضاوت انسانی از ریاضیات و دادهها استفاده میکنند. اما الگوریتمها توسط انسانها ساخته میشوند؛ بنابراین، انتخابهای انسانی درباره نوع دادههای مورد استفاده، عوامل مهم و تعریف موفقیت را بازتاب میدهند. به بیان او، مدلها در اصل دیدگاهها و نظراتی هستند که در قالب ریاضیات جای گرفتهاند.
الگوریتمها، از جمله هوش مصنوعی، میتوانند تبعیض را از دادههای تاریخی یاد بگیرند. اگر تصمیمهای گذشته در زمینههایی مانند استخدام، پلیس، اعطای وام یا خدمات پزشکی تحت تأثیر تبعیض نژادی، جنسیتی یا نابرابریهای ساختاری بوده باشند، مدلی که بر اساس این دادهها آموزش میبیند ممکن است همان تبعیضها را تکرار کند و حتی آنها را تشدید کند.
برای نمونه، سوگیری جنسیتی را در نظر بگیرید. اونیل در کتاب خود، که حدود ده سال پیش و پیش از رسیدن هوش مصنوعی به سطح فعلی نوشته شده است، به پرونده دانشکده پزشکی بیمارستان سنت جورج اشاره میکند. این مرکز از یک الگوریتم پذیرش برای بررسی و انتخاب درخواستها استفاده کرد. الگوریتم با استفاده از پروندههای متقاضیانی که در گذشته پذیرفته شده بودند، برنامهریزی شد. اما پس از مدتی مشخص شد که این سامانه تمایل بیشتری به رد زنان یا افرادی با نامهای غیراروپایی دارد.
این برنامه دچار سوگیری بود؛ نه هر نوع سوگیری، بلکه همان سوگیری انسانی.
صرفِ استفاده از یک سیستم ماشینی، عدالت بیشتری در تصمیمگیری نسبت به قضاوت انسانی ایجاد نمیکرد. هنگامی که پروندههای پذیرفته شده قبلی به الگوریتم داده شدند، همان ترجیحات ناعادلانه، تبعیضها و سوگیریهای موجود در تصمیم گیریهای پیشین انسانها، ناخواسته به آن آموزش داده شد.
مشکلی مشابه اخیراً در زمینه هوش مصنوعی رخ داده است. سامانه آزمایشی هوش مصنوعی آمازون برای استخدام، از رزومههای گذشته در صنعتی مردسالار و تحت سلطه مردان آموزش دیده بود و در نتیجه، شروع به تلقی نشانههای زن بودن متقاضی بهعنوان عوامل منفی کرد.
اما اگر چنین سوگیریهایی وجود دارند، آیا نمیتوان هوش مصنوعی را طوری برنامهریزی کرد که نژاد، جنسیت یا سایر عوامل تبعیضآمیز مربوط به مراجعان درمانی را نادیده بگیرد؟
از نظر فنی میتوان چنین کاری انجام داد، اما مراجعان اغلب به درمانگری نیاز دارند که از شایستگی فرهنگی برخوردار باشد تا بتواند واقعاً آنها را درک کرده و راهحلهایی کاربردی و مناسب ارائه دهد.
هیچ درمانگری برای همه افراد مناسب نیست و هیچ درمانگری نمیتواند به همه گروههای جمعیتی کمک کند. اگر هنوز نتوانستهایم مشکل تبعیض میان انسانها را حل کنیم، انتظار اینکه هوش مصنوعی بتواند به طور کامل از تبعیض پرهیز کند، بیش از حد خوش بینانه است.
ادعای سوم: درمان مبتنی بر هوش مصنوعی دسترسپذیرتر است
از نظر دسترسپذیری، درمان مبتنی بر هوش مصنوعی دامنه بسیار گستردهای دارد. این مورد، در مقاله ژانگ و وانگ، تاکنون قویترین استدلال به نفع درمانگر هوش مصنوعی است.
همانطور که ژانگ و وانگ میگویند، درمانگران انسانی در هر روز زمان محدودی برای ملاقات با بیماران دارند. از آنجا که یک جلسه معمول درمانی حدود پنجاه دقیقه طول میکشد، یک درمانگر در یک روز کاری عادی ممکن است حداکثر بتواند هفت تا هشت بیمار را ببیند. همچنین مراجعان، برخلاف درمان مبتنی بر هوش مصنوعی، بهصورت شبانه روزی و در تمام هفت روز هفته به رواندرمانگران خود دسترسی ندارند.
موقعیت جغرافیایی نیز یکی دیگر از مشکلات درمان سنتی است. روان درمانگران، به ویژه مددکاران اجتماعی، تنها در استان یا منطقهای که در آن ثبت و مجاز شدهاند، میتوانند خدمات درمانی ارائه دهند. این مسئله ممکن است در یک منطقه کمبود درمانگر و در منطقهای دیگر اشباع درمانگر ایجاد کند.
در مقابل، هر فردی که به یک وسیله فناوری مناسب و اینترنت دسترسی داشته باشد، میتواند از چتباتهای هوش مصنوعی استفاده کرده و درباره مشکلات خود با آنها گفتوگو کند. در زمان نگارش این مقاله، استفاده از بیشتر چتباتهای هوش مصنوعی تا حدی رایگان است و تنها پس از مدتی ممکن است کیفیت خدمات آنها کاهش یابد. حتی گرانترین طرحهای نامحدود فعلی برای یک فرد حدود ۲۰۰ دلار آمریکا در ماه هزینه دارند که همچنان از هزینه یک جلسه رواندرمانی کمتر است؛ میانگین قیمت یک جلسه درمان در حال حاضر حدود ۱۷۵ تا ۲۰۰ دلار است.
پس مشکل چیست؟
ممکن است هوش مصنوعی اکنون در دسترس باشد، اما احتمال دارد در آینده چنین نباشد.
چندین شرکت پیشرو در توسعه هوش مصنوعی، در حال حاضر بیشتر از درآمد عملیاتی خود هزینه میکنند و برای جبران این تفاوت به سرمایهگذاران و شرکای بزرگ فناوری متکی هستند. طبق گزارشها، OpenAI تنها در سهماهه نخست سال ۲۰۲۶ حدود ۳٫۷ میلیارد دلار نقدینگی مصرف کرده و پیش بینی کرده است که در ادامه نیز با هزینههای نقدی قابلتوجهی مواجه خواهد شد. این موضوع، هزینه سنگین توسعه و راهاندازی مدلهای پیشرفته را نشان میدهد.
اگر این شرکتها در نهایت برای سودآوری تحت فشار قرار گیرند، ممکن است قیمت اشتراکها را افزایش دهند، محدودیتهای سختگیرانهتری برای استفاده اعمال کنند یا توانمندترین سامانههای خود را فقط در اختیار مشتریانی قرار دهند که هزینه بیشتری پرداخت میکنند.
این واقعیت که هوش مصنوعی از درمان سنتی دسترسپذیرتر است، لزوماً به این معنا نیست که صنعت هوش مصنوعی در وضعیت مطلوبی قرار دارد.
در عوض، این مسئله محدودیتهای نظام مراقبتهای بهداشتی فعلی ما را برجسته میکند. این وضعیت باید هشداری باشد تا خدمات درمانی را برای گروه گستردهتری از مردم، مقرون به صرفهتر و دسترسپذیرتر کنیم.
همچنین باید توجه داشت که دسترسی شبانهروزی لزوماً به معنای مفید بودن خدمات برای مراجعان نیست.
این موضوع ممکن است متناقض به نظر برسد، اما علاوه بر محدودیت ظرفیت درمانگران، دلیل دیگری نیز وجود دارد که جلسات درمانی معمولاً بهطور دائمی و در هر زمان در دسترس نیستند. دسترسی همیشگی به درمانگر، یا یک چتبات هوش مصنوعی، میتواند برای مراجعان مضر باشد. یکی از دلایل اصلی مراجعه افراد به درمان این است که درباره زندگی و شرایط خود احساس بهتری پیدا کنند. بخش مهمی از این فرایند، یادگیری تنظیم احساسات، اعتماد به خود و تصمیمگیری بهتر است. اما اگر مراجع بتواند در هر لحظه به چتبات هوش مصنوعی مراجعه کند، ممکن است بهجای ماندن با احساسات خود، یادگیری مراقبت از خود، تنظیم هیجانها و ایجاد شواهدی مبنی بر توانایی تحمل شرایط دشوار، به چیزی خارج از خود وابسته شود.
در واقع، او ممکن است پیام معکوسی یاد بگیرد: اینکه بدون مراجعه به هوش مصنوعی قادر به مدیریت شرایط نیست.
درمانگر باید راهنمایی باشد که از مراجع حمایت کند تا به نسخه سالمتری از خود تبدیل شود. هدف درمان این است که مراجع احساس کند میتواند بهتنهایی از عهده زندگی برآید و درمانگر نیز در صورت نیاز، مانند یک شبکه ایمنی، مقداری حمایت اضافی ارائه دهد. اما چتباتهای هوش مصنوعی ممکن است باعث شوند مراجعان احساس کنند نهتنها لازم نیست ناراحتی و دشواری را تحمل کنند، بلکه نیازی هم ندارند راهحلهای شخصی خود را پیدا کنند.
نتیجه گیری
اگرچه هوش مصنوعی برخی قابلیتهای مفید را ارائه میدهد، این فناوری هنوز آنقدر پیشرفته نیست که بتواند جایگزین یک درمانگر انسانی شایسته و متخصص شود.
چتباتهای هوش مصنوعی ممکن است باورهای آسیبزا را تقویت کنند، دارای انواع سوگیری باشند، بحرانها را بهدرستی مدیریت نکنند و وابستگی بیش از حدی ایجاد کنند که با اصول مراقبت درمانی مطلوب در تضاد است. به همین دلایل، جایگزین کردن درمانگران انسانی با هوش مصنوعی میتواند خطرناک باشد. هوش مصنوعی ممکن است بهعنوان یک ابزار حمایتی مفید باشد، اما نباید جایگزین قضاوت حرفهای، پاسخگویی و ارتباط انسانیای شود که یک درمانگر ماهر فراهم میکند.
حتی با وجود معایبی که در بالا ذکر شد، ممکن است برخی افراد همچنان تصمیم بگیرند برای حمایت از سلامت روان خود از یک چتبات هوش مصنوعی استفاده کنند. در صورت انتخاب این روش، با احتیاط عمل کنید و پاسخهای چتبات را صرفاً پیشنهاد تلقی کنید، نه توصیه حرفهای. توجه داشته باشید که آیا این ابزار به شما کمک میکند عمیقتر فکر و تأمل کنید، یا صرفاً با شما موافقت کرده و باورهای فعلیتان را تقویت میکند. برای نگرانیهای مداوم، چالشهای مهم زندگی یا علائمی که بر عملکرد روزمره شما تأثیر میگذارند، بهتر است با یک درمانگر واجد شرایط صحبت کنید که بتواند مراقبتی شخصیسازیشده و مسئولانه ارائه دهد. در صورت تمایل به دریافت حمایت حرفهای، میتوانید از طریق نشانی زیر یک جلسه مشاوره رایگان با مؤسسه ما رزرو کنید.
سلب مسئولیت
مایلم تأکید کنم که ممکن است این مقاله خیلی زود قدیمی شود؛ زیرا سرمایهگذاریهای بسیار زیادی برای توسعه و بهبود مدلهای زبانی هوش مصنوعی در حال انجام است. این موضوع به آن معناست که مدلهای هوش مصنوعی تقریباً هر روز در حال سازگار شدن، اصلاح شدن و بهبود یافتن هستند و ممکن است مطالبی که در اینجا بیان کردهام، در آینده بیارتباط یا منسوخ شوند. بنابراین، لطفاً هنگام مطالعه این مقاله، این نکته را در نظر داشته باشید.
با ساغر بیشتر آشنا شوید
ساغر در حال تحصیل در مقطع کارشناسی ارشد مددکاری اجتماعی (MSW) است و آخرین دوره کارورزی خود را در Therapy Uninterrupted میگذراند. او در این کلینیک یک دوره کارورزی اداری را میگذراند تا در مسیر حرفهای آینده خود در حوزه مددکاری اجتماعی تجربه و مهارت لازم را کسب کند.