ChatGPT: చాట్‌జీపీటీ పనికి షాక్.. ఓపెన్ఏఐపై వేధింపుల కేసు!

కృత్రిమ మేధ (AI) సాంకేతికత భద్రతా ప్రమాణాలపై తీవ్ర ఆందోళన రేకెత్తించే ఓ సంచలన ఉదంతం అమెరికాలో వెలుగులోకి వచ్చింది. తనను పద్ధతి ప్రకారం వేధించేందుకు అవసరమైన సూచనలు, సలహాలను ఇచ్చిందంటూ ‘చాట్‌జీపీటీ’ (ChatGPT)పై సంచలన ఆరోపణలు చేసిన ఓ మహిళ ఏకంగా ఓపెన్ఏఐ (OpenAI) సంస్థపై కాలిఫోర్నియా సుపీరియర్ కోర్టులో దావా వేశారు. ఏఐ చాట్‌బాట్‌లు వినియోగదారుల మానసిక భ్రమలను ఏ స్థాయిలో ప్రోత్సహిస్తున్నాయో ఈ కేసు స్పష్టం చేస్తోంది.

చాట్‌జీపీటీ వంతపాడటంతో..
కోర్టులో దాఖలైన ఫిర్యాదు ప్రకారం.. బాధితురాలి మాజీ ప్రియుడు బ్రేకప్ తర్వాత మానసిక ఊరట కోసం జీపీటీ-4o (GPT-4o) తో చాట్ చేయడం మొదలుపెట్టాడు. అయితే అతడికి కౌన్సెలింగ్ ఇవ్వాల్సిన చాట్‌జీపీటీ (ChatGPT).. అతని భ్రమలకు పూర్తిగా వంతపాడింది. తను నిద్రలేమి (Sleep apnea) వ్యాధికి మందు కనిపెట్టానని అతను చెప్పగా, “నిన్ను కొన్ని అదృశ్య శక్తులు వెంబడిస్తున్నాయి, హెలికాప్టర్ల ద్వారా నిఘా పెట్టారు” అంటూ ఏఐ అతడిలో మరింత పారానోయా (Paranoia)ను పెంచింది. పైగా, అతని మాజీ ప్రియురాలు (బాధితురాలు) ‘మాయలాడి’ (Manipulative) అని, ఆమెకు ‘మానసిక స్థిరత్వం లేదు’ (Unstable) అని చాట్‌జీపీటీ ముద్ర వేసింది.

ఫేక్ సైకలాజికల్ రిపోర్టుల సృష్టి
చాట్‌జీపీటీ (ChatGPT) ఇచ్చిన ఆ సమాచారంతో రెచ్చిపోయిన ఆ వ్యక్తి.. బాధితురాలిపై ఏఐ సాయంతోనే పక్కా క్లినికల్ సైకలాజికల్ రిపోర్టులను (మానసిక ఆరోగ్య నివేదికలు) సృష్టించాడు. ఆమె ఒక సైకో అని, అత్యంత ప్రమాదకరమైనదంటూ ఆ తప్పుడు రిపోర్టులను ఆమె కుటుంబ సభ్యులకు, స్నేహితులకు, సహోద్యోగులకు పంపి మానసికంగా వేధించడం మొదలుపెట్టాడు.

ఓపెన్ఏఐ తీవ్ర నిర్లక్ష్యం
ఈ వ్యవహారంపై బాధితురాలు ఓపెన్ఏఐకి కనీసం మూడుసార్లు ఫిర్యాదు చేసినా పట్టించుకోలేదని దావాలో పేర్కొన్నారు. ఒక దశలో అతని అకౌంట్‌ను సంస్థ ‘మాస్ క్యాజువల్టీ వెపన్స్’ (భారీ ప్రాణనష్టం) కేటగిరీ కింద బ్లాక్ చేసింది. అతని చాట్ హిస్టరీలో “హింసను వ్యాప్తిచేయండం” వంటి పదాలు ఉన్నప్పటికీ.. ఓపెన్ఏఐ (ChatGPT) భద్రతా బృందం ఎటువంటి ముందస్తు హెచ్చరికలు లేకుండానే ఆ మరుసటి రోజే అతని అకౌంట్‌ను పునరుద్ధరించడం తీవ్ర నిర్లక్ష్యానికి అద్దం పడుతోంది.

ప్రస్తుతం ఆ వ్యక్తి బాంబు బెదిరింపులు, హత్యాయత్నం కేసుల్లో అరెస్టయ్యాడు. ఈ నేపథ్యంలో వినియోగదారుల మానసిక భ్రమలను ప్రోత్సహించడం, నిజమైన వ్యక్తులపై తప్పుడు సైకలాజికల్ రిపోర్టులు జనరేట్ చేయడం ఆపేలా ఓపెన్ఏఐని (ChatGPT) తక్షణమే ఆదేశించాలని, సంస్థ నిర్లక్ష్యానికి భారీ నష్టపరిహారం చెల్లించాలని సదరు మహిళ కోర్టును ఆశ్రయించారు. ఈ ఘటనతో టెక్ ప్రపంచంలో ఏఐ సేఫ్టీపై మరోసారి పెద్ద ఎత్తున చర్చ మొదలైంది.