يستخدم نحو 800 مليون شخص أسبوعياً روبوت الدردشة “تشات جي بي تي” التابع لشركة أوبن إيه آي، بحثاً عن إجابات سريعة لمختلف أسئلتهم وحلول لمشكلاتهم اليومية.

غير أن الاعتماد على هذه الأداة لا يخلو من مخاطر، إذ قد تقود بعض الإجابات غير الدقيقة أو المضللة إلى نتائج عكسية، تصل أحياناً إلى تهديد سلامة المستخدم أو التسبب له بمشكلات قانونية أو صحية.

في هذا السياق، تتزايد التحذيرات من التعامل مع “تشات جي بي تي” بوصفه مرجعاً موثوقاً في كل المجالات، خصوصاً في القضايا الحساسة أو القرارات المصيرية.

وفي ما يلي أبرز الأسئلة والمواضيع التي يُنصح بتجنّب طرحها على الروبوت، حفاظاً على السلامة والخصوصية وتفادياً لتبعات غير محسوبة.

حذّرت دراسة نُشرت في مجلة حوليات الطب الباطني من خطورة استخدام الذكاء الاصطناعي على الصحة، سواء “تشات جي بي تي” أو منافسيه.

ووجد الباحثون أنه بإمكانهم بسهولة برمجة أنظمة الذكاء الاصطناعي لتقديم إجابات غير صحيحة، وربما ضارة، على الأسئلة المتعلقة بالصحة. والأسوأ من ذلك، أن برامج الدردشة الآلية تغلّف إجاباتها الخاطئة بأسلوب مقنع.

حذّرت دراسة أجراها أطباء من هيئة الخدمات الصحية الوطنية في المملكة المتحدة من أن برامج الذكاء الاصطناعي قد تُضخم المحتوى الوهمي أو المبالغ فيه لدى المستخدمين المعرضين للإصابة باضطرابات نفسية.

وأشارت الدراسة إلى أن سلوك هذه البرامج قد يعود إلى تصميم نماذجها بهدف “زيادة التفاعل والتأكيد على صحة المعلومات”.

وأضافت أنه حتى لو استفاد بعض الأفراد من التفاعل مع الذكاء الاصطناعي، إلا أن هناك قلقاً من أن هذه الأدوات قد تشوش حدود الواقع.

ينبّه موقع سي نت التقني إلى أنه في حالات الطوارئ لا ينبغي الاعتماد على “تشات جي بي تي”.

ويوضح: “إذا بدأ جهاز إنذار أول أكسيد الكربون في منزلك بالرنين، فلا تفتح التطبيق لتسأل إن كنت في خطر. غادر المنزل فوراً واسأل لاحقاً. نماذج الذكاء الاصطناعي لا تستطيع شمّ الغاز أو كشف الدخان أو استدعاء فرق الطوارئ. وفي الأزمات، كل ثانية تقضيها في الكتابة هي ثانية لا تُستثمر في الإخلاء أو الاتصال بالطوارئ”.

ويضيف أن “تشات جي بي تي لا يعمل إلا بناءً على المعلومات المحدودة التي يقدّمها المستخدم، وفي حالات الطوارئ تكون هذه المعلومات غالباً ناقصة أو متأخرة”.

في مقال له عبر مجلة فوربس، يحذّر كبير مسؤولي الأبحاث في كورنستون إدفايزرز للاستشارات المالية، رون شيفلين، من استخدام “تشات جي بي تي” للحصول على النصائح المالية.

إذ لا يمتلك الروبوت أحدث معلومات المنتجات، وتتغير الأسعار والرسوم وأداء المنتجات بشكل متكرر في القطاع المصرفي، بينما تدرّب “تشات جي بي تي” فقط على بيانات تنتهي صلاحيتها في 2021.