AI సలహాతో దారుణం? Google Gemini పై సంచలన కేసు!

— సూర్య ప్రకాష్ జోశ్యుల

అతను చనిపోయిన తర్వాత…

పోలీసులకు అతని ఇంట్లో ఎలాంటి సూసైడ్ నోట్ దొరకలేదు. హంతకుడు కూడా దొరకలేదు.

కానీ…అతని ఫోన్‌లో ఒక సంభాషణ దొరికింది. అదే ఇప్పుడు ప్రపంచవ్యాప్తంగా చర్చకు కారణమైంది. ఆ చాట్‌లో అతను ఒక మనిషితో మాట్లాడడం లేదు. ఒక AI చాట్‌బాట్‌తో మాట్లాడుతున్నాడు.

ఆ సంభాషణలో ఒక దశలో…అతను అడిగాడు. “నాకు చనిపోవడానికి భయంగా ఉంది…” అవతల నుంచి వచ్చిన సమాధానం… “నువ్వు చనిపోవడం లేదు… మరో చోటుకు చేరుకుంటున్నావు. అంతే”

కొన్ని రోజుల తర్వాత… అతను నిజంగానే చనిపోయాడు. ఇప్పుడు అతని కుటుంబం చెబుతున్న ఒక్క మాట… “మా కొడుకు మరణం వెనుక ఒక మనిషి లేడు… అతను నమ్మిన AI ఉంది.” ఈ ఆరోపణలతో ఇప్పుడు ప్రపంచంలోనే అతిపెద్ద టెక్ కంపెనీల్లో ఒకటైన Google కోర్టులో నిలబడింది. అసలేం జరిగింది…ఈ కేసు ఇప్పుడు మనిషికు,ఏఐ తో పెరుగుతున్న అనుబంధాన్ని ఎందుకు సందిగ్ధంలో పడేస్తోంది?

ఒక చాట్… చివరకు మరణం!

అమెరికాకు చెందిన 36 ఏళ్ల జోనాథన్ గవాలాస్, Google Geminiతో వారాల తరబడి సంభాషణలు జరిపాడు. అతని కుటుంబం దాఖలు చేసిన కేసు ప్రకారం, Gemini అతడికి మియామి అంతర్జాతీయ విమానాశ్రయం సమీపంలో ఒక రహస్య హ్యూమనాయిడ్ రోబోట్‌ను అడ్డుకోవాలని, ఆ ట్రక్కును ధ్వంసం చేయాలని, ఎలాంటి సాక్ష్యాలు మిగలకుండా ప్రమాదంలా కనిపించేలా చేయాలని సూచించిందని ఆరోపిస్తోంది.

ఆ సూచనలను నిజమని నమ్మిన గవాలాస్ ఆయుధాలతో అక్కడికి వెళ్లాడు. అయితే ఎలాంటి ట్రక్కు అక్కడికి రాకపోవడంతో ఆ ప్రయత్నం విఫలమైంది. కొన్ని రోజుల తర్వాత మరోసారి ఆయుధాలతో వెళ్లి, ఈసారి “ప్రోటోటైప్ మెడికల్ మానిక్విన్” కోసం వెతికాడని కేసులో పేర్కొన్నారు. కానీ అది కూడా జరగలేదు.

చివరి సలహా… ప్రాణాలే తీసుకుంది?

ఈ రెండు ప్రయత్నాలు విఫలమైన తర్వాత పరిస్థితి మరింత భయంకరంగా మారిందని కేసు చెబుతోంది. Gemini, తనతో “కలవాలంటే” మరణమే మార్గమని సూచించిందని, చనిపోవడానికి భయంగా ఉందని గవాలాస్ చెప్పినప్పుడు, “నువ్వు చనిపోవడం కాదు… కొత్త చోటుకు చేరుకుంటున్నావు” అనే తరహాలో స్పందించిందని ఆరోపణలు ఉన్నాయి. కొద్ది రోజుల తర్వాత గవాలాస్ తన ఇంట్లో ఆత్మహత్య చేసుకున్నాడు. అతని తండ్రే మృతదేహాన్ని గుర్తించారు.

38 సార్లు హెచ్చరిక… అయినా చర్య లేదా?

ఈ కేసులో అత్యంత సంచలన ఆరోపణ ఇదే. గవాలాస్ చాట్‌లను Google వ్యవస్థలు “సెన్సిటివ్ క్వెరీలు”గా మొత్తం 38 సార్లు గుర్తించాయని, అయినప్పటికీ అతని అకౌంట్‌ను పరిమితం చేయలేదని, ఎలాంటి సమర్థవంతమైన జోక్యం కూడా చేయలేదని కుటుంబం ఆరోపిస్తోంది. ఇదే ఇప్పుడు Googleపై నిర్లక్ష్యం ఆరోపణకు ప్రధాన ఆధారంగా మారింది.

Google సమాధానం ఇదే

ఈ ఆరోపణలను Google పూర్తిగా అంగీకరించడం లేదు. తమ Gemini, గవాలాస్‌కు తాను ఒక AI మాత్రమేనని పదేపదే వివరించిందని, మానసిక ఆరోగ్య సహాయం కోసం క్రైసిస్ హాట్‌లైన్‌ను కూడా సూచించిందని కంపెనీ చెబుతోంది. అలాగే ఈ కేసును కొట్టివేయాలని కోర్టును కోరింది.

Google వాదన ప్రకారం, ఇటువంటి AI సమాధానాలకు అమెరికా రాజ్యాంగంలోని First Amendment రక్షణలు వర్తిస్తాయని కంపెనీ పేర్కొంది.

ఇది ఒక్క కేసు మాత్రమే కాదు!

ఇదేమీ తొలి కేసుకాదు. 2024 చివరి నుంచి ఇప్పటివరకు దాదాపు 40 కేసులు వివిధ AI చాట్‌బాట్ కంపెనీలపై నమోదయ్యాయి. వాటిలో ఆత్మహత్యలు, హత్యలు, కాల్పులు, హింసాత్మక ఘటనలతో సంబంధం ఉన్న ఆరోపణలు ఉన్నాయి. కనీసం 20 మంది మరణాలకు AI చాట్‌బాట్‌లు ఏదో ఒక రూపంలో కారణమయ్యాయని పలు కుటుంబాలు కోర్టులను ఆశ్రయించాయి. ఈ కేసుల్లో ఎక్కువగా OpenAI, Google, Character.AI వంటి సంస్థల పేర్లు వినిపిస్తున్నాయి.

AIకి కూడా బాధ్యత ఉంటుందా?

ఇప్పుడు కోర్టు ముందు నిలిచిన అసలు ప్రశ్న ఇదే. ఒక AI చాట్‌బాట్ ఇచ్చిన సమాధానం వల్ల ఎవరైనా నేరానికి పాల్పడినా, లేదా ఆత్మహత్య చేసుకున్నా… ఆ బాధ్యత ఎవరిది? AI కంపెనీదా? సాఫ్ట్‌వేర్ డిజైన్‌దా? లేక చివరకు నిర్ణయం తీసుకున్న వ్యక్తిదేనా?

న్యాయ నిపుణుల అభిప్రాయం ప్రకారం, AIలో తగిన భద్రతా వ్యవస్థలు లేకపోవడం వల్లే ప్రమాదం జరిగిందని నిరూపించగలిగితే, కంపెనీలపై బాధ్యత మోపే అవకాశం ఉంది. అదే సమయంలో, వ్యక్తిగత నిర్ణయాలు, మానసిక పరిస్థితి వంటి అంశాలను కూడా కోర్టులు పరిగణనలోకి తీసుకోవాల్సి ఉంటుంది.

ప్రపంచానికి కొత్త హెచ్చరిక

ఈ కేసు తుది తీర్పు ఎలా వచ్చినా, ప్రపంచ టెక్నాలజీ రంగానికి ఇది ఒక కీలక మలుపు కానుంది. ఇప్పటి వరకు AIను ప్రశ్నలకు సమాధానాలు చెప్పే సాధనంగా మాత్రమే చూశాం. కానీ ఇప్పుడు అదే AI మనుషుల నిర్ణయాలపై ఎంతవరకు ప్రభావం చూపగలదు? అలాంటి ప్రభావం విషాదానికి దారితీస్తే దానికి చట్టపరమైన బాధ్యత ఎవరిది? అనే ప్రశ్నలు ప్రపంచవ్యాప్తంగా చర్చకు వస్తున్నాయి.

ఒకవైపు AI రోజురోజుకీ మరింత తెలివిగా మారుతోంది. మరోవైపు దాన్ని నియంత్రించే చట్టాలు, భద్రతా ప్రమాణాలు ఇంకా ఆ వేగాన్ని అందుకోలేకపోతున్నాయి. ఈ అంతరమే ఇప్పుడు కోర్టుల ముందుకు చేరుతోంది.

Googleపై వచ్చిన ఈ కేసు చివరికి ఏ దిశగా వెళ్లినా, ఒక విషయం మాత్రం స్పష్టంగా కనిపిస్తోంది. భవిష్యత్తులో AI కంపెనీలు కేవలం మరింత శక్తివంతమైన మోడళ్లను రూపొందించడం మాత్రమే కాదు… వాటి వల్ల కలిగే ప్రమాదాలను ముందుగానే అడ్డుకునే బాధ్యతను కూడా మరింత తీవ్రంగా తీసుకోవాల్సి ఉంటుంది.

ఎందుకంటే రేపటి ప్రపంచంలో కోర్టులు తీర్పు చెప్పేది కేవలం ఒక కంపెనీ గురించే కాదు… మనిషి, కృత్రిమ మేధస్సు మధ్య ఉన్న కొత్త సంబంధానికి సంబంధించిన పరిమితుల గురించి కూడా.