دعوى قضائية ضد "أوبن إيه آي" بعد اتهام ChatGPT بتقديم نصائح طبية خاطئة
رفع قس أميركي من ولاية فلوريدا دعوى قضائية ضد شركة OpenAI، متهمًا روبوت الدردشة "ChatGPT" بتقديم إرشادات صحية وصفها بأنها "خطيرة للغاية"، بعدما قال إن اعتمادَه على تلك النصائح أدى إلى تأخير حصوله على العلاج المناسب وكاد يعرّض حياته للخطر.
وقال سكوت وينترز، وهو رجل دين وناشط مجتمعي، في الدعوى التي تقدم بها أمام محكمة في ولاية كاليفورنيا، إنه استخدم ChatGPT لأسابيع للحصول على إجابات بشأن أعراض متكررة عانى منها، من بينها نوبات دوار واضطرابات مرتبطة بضغط الدم. وأضاف أن الروبوت طمأنه بشأن حالته بدلًا من حثه على مراجعة طبيب مختص، واقترح عليه الاكتفاء بالراحة والجلوس لفترات طويلة.
وبحسب الدعوى، اتبع وينترز هذه النصائح، قبل أن يتبين لاحقًا أن الأعراض كانت مرتبطة بحالة طبية طارئة تمثلت في انسداد رئوي ناتج عن جلطات دموية في الرئتين. وأكد أن الأطباء أبلغوه بأن قلة الحركة خلال تلك الفترة ساهمت في تفاقم وضعه الصحي، وهو ما اعتبره نتيجة مباشرة للاعتماد على توصيات الروبوت.
ولم تتوقف القضية عند الجانب الطبي فقط، إذ أشار وينترز إلى أن استخدام ميزة "الذاكرة" في ChatGPT أدى لاحقًا إلى تضمين ردود ذات طابع ديني خلال المحادثات، بسبب معرفة النظام بأنه قس، الأمر الذي أثار لديه تساؤلات حول طبيعة تفاعل الذكاء الاصطناعي مع معلومات المستخدمين الشخصية.
ويتهم وينترز شركة OpenAI ورئيسها التنفيذي سام ألتمان بالإهمال والسماح لنظام ذكاء اصطناعي بتقديم إرشادات صحية قد تُفهم على أنها بديل عن الاستشارة الطبية، مطالبًا بتعويضات مالية، إضافة إلى الدعوة إلى تعليق خدمات صحية مرتبطة بـChatGPT إلى حين ضمان مستويات أعلى من الأمان.
وتُعد القضية من أبرز الدعاوى التي تفتح النقاش حول المسؤولية القانونية لأنظمة الذكاء الاصطناعي عند استخدامها في مجالات حساسة، خصوصًا القطاع الطبي، حيث يمكن لأي معلومة غير دقيقة أن تؤثر مباشرة على حياة المستخدمين.
من جهتها، قالت OpenAI إن اختزال القرارات الصحية التي يتخذها الأشخاص في مسؤولية روبوت الدردشة وحده لا يعكس التعقيد الحقيقي لهذه الحالات، مشيرة إلى أن أنظمة الذكاء الاصطناعي ليست بديلًا عن الأطباء أو المختصين.
وتُعيد القضية تسليط الضوء على التحدي الأكبر أمام تقنيات الذكاء الاصطناعي: قدرتها على تقديم إجابات مقنعة وواثقة لا تعني بالضرورة أنها صحيحة أو آمنة، ما يجعل استخدام هذه الأدوات في المجالات الحساسة بحاجة إلى ضوابط واضحة ووعي أكبر من المستخدمين.
