AI చెప్పిన చిన్న అబద్ధం.. గాల్లోకి లేచిన యుద్ధ విమానాలు! అసలు ఆ రాత్రి ఏం జరిగింది?

—సూర్య ప్రకాష్ జోశ్యుల

చిన్న అబద్దం వల్ల ప్రాణ స్నేహితుల మథ్యే గొడవలు వచ్చేస్తూంటాయి. అలాంటిది పచ్చగడ్డి వేస్తే భగ్గుమనేలా ఉండే దేశాల మధ్య అయితే చెప్పేదేముంది. అలాంటి ప్రమాదమే తృటిలో తప్పింది.

AI చాట్‌బాట్ చెప్పిన ఒక చిన్న అబద్ధం వల్ల ప్రపంచంలోనే అతిపెద్ద మిలిటరీ శక్తి అల్లకల్లోలమైంది! వినడానికి ఇదేదో హాలీవుడ్ థ్రిల్లర్ సినిమా ప్లాట్‌లా అనిపిస్తున్నా, ఇది అక్షరాలా జరిగిన యథార్థ సంఘటన. సాధారణంగా AI ఏదైనా తప్పు సమాధానమిస్తే మనం చూసి నవ్వుకుని వదిలేస్తాం. అయితే అదే AI ఇచ్చిన తప్పుడు సమాచారం ఒక ఆఫీస్ రూమ్ దాటి, నేరుగా దేశపు అత్యున్నత సైనిక వ్యవస్థలోకి వెళ్తే ఏం జరుగుతుందో ఊహించారా? సరిగ్గా అదే జరిగింది.

కొద్దిసేపటికే ఆర్మీ సైనికులు పొజిషన్స్ తీసుకున్నారు, యుద్ధ విమానాలు గాల్లోకి లేచాయి. వాళ్ల టార్గెట్ ఒక చైనా నౌక. ఆ నౌకలో అణ్వాయుధాలకు సంబంధించిన అత్యంత ప్రమాదకరమైన పదార్థాలు ఉన్నాయని AI చాలా కాన్ఫిడెంట్‌గా చెప్పింది. కానీ అసలు నిజం ఏంటంటే… అది పూర్తి అబద్ధం! ఒక్క తప్పుడు AI హాల్యూసినేషన్ ఏకంగా రెండు మహా శక్తుల మధ్య యుద్ధానికి కౌంట్‌డౌన్ మొదలుపెట్టేసింది.

అసలేం జరిగింది?

సీఎన్‌ఎన్ (CNN) దర్యాప్తు ప్రకారం… ఎప్పటిలాగే యుఎస్ స్పెషల్ ఆపరేషన్స్ కమాండ్ పెసిఫిక్‌కు చెందిన ఒక సైనిక విశ్లేషకుడు ఓ చైనా నౌకకు సంబంధించిన సేకరించాడు. ఆ తర్వాత ఆ సమాచారాన్ని AI చాట్‌బాట్‌లో పెట్టాడు. ఆ AI ఏం చేసిందంటే, తన దగ్గరున్న ఓపెన్-సోర్స్ డేటాను, ఆఫీషియల్ గవర్నమెంట్ ఇంటెలిజెన్స్‌ను కలగలిపి అనలైజ్ చేయడం మొదలుపెట్టింది.

సరిగ్గా ఇక్కడే అసలు ట్విస్ట్ పడింది.

డేటాలోని చుక్కలను తప్పుగా కలిపేసి, లేని కనెక్షన్‌ను ఉన్నట్లు ఊహించుకుంది. ఆ నౌకలో న్యూక్లియర్ మెటీరియల్ ఉందనే తప్పుడు ముగింపుకు వచ్చేసింది. అంతటితో ఆగకుండా, ఆ విశ్లేషణను ఒక పక్కా ప్రొఫెషనల్ మిలిటరీ ఇంటెలిజెన్స్ రిపోర్ట్ ఫార్మాట్‌లో సిద్ధం చేసి ఇచ్చింది. అధికారిక భాష, ప్రభుత్వ ముద్రలాంటి లేఔట్ చూసి… అది AI వండివార్చిన కథ అని ఎవరూ అనుకోలేదు, పక్కాగా వెరిఫై అయిన ఆర్మీ ఇంటెలిజెన్స్ సమాచారమే అని పొరపడ్డారు.

AI తప్పు చెప్పిందని ఎలా తెలిసింది

నౌకలో అణ్వాయుధాలకు సంబంధించిన భాగాలు ఉన్నాయని AI ఇచ్చిన అంచనాను సైనిక అధికారులు మొదట ఇంటెలిజెన్స్ రిపోర్ట్‌గా పరిగణించారు. అయితే సైనిక చర్యకు సిద్ధమవుతున్న సమయంలో ఆ సమాచారాన్ని అధికారులుకు ఎందుకో సందేహం వచ్చింది. మరింత లోతుగా ఇతర ఇంటెలిజెన్స్, అందుబాటులో ఉన్న ఆధారాలతో క్రాస్‌చెక్ చేసారు. దాంతో అసలు విషయం బయిటపడింది. AI conclusionకు సరైన ఆధారం లేదని గుర్తించారు. చివరకు ఆ అంచనా పూర్తిగా తప్పు అని తేలింది. వెంటనే సైనిక చర్యను ఆపుచేసారు. పెద్ద ప్రమాదం తప్పిందని ఊపిరి పీల్చుకున్నారు. అయితే CNN ప్రకారం, నౌకలో వాస్తవంగా ఏమి ఉందో మాత్రం నిర్ధారించలేకపోయింది.

AI తప్పు చేయడం కాదు, దాన్ని ‘నిజం’లా నమ్మించడమే అసలు ప్రమాదం!

మన సినిమాల్లో చూస్తుంటాం కదా… ఒక దేశం ఇంకో దేశంపై దాడి చేయాలంటే రాడార్లు, స్పైలు, కమాండ్ ఆఫీసర్లు, రకరకాల ఫిల్టర్లు ఉంటాయి. ప్రతీ సమాచారాన్ని పదే పదే క్రాస్ చెక్ చేసుకుంటారు. కానీ AI యుగంలో ఈ వ్యవస్థలకే కొత్త భయం పట్టుకుంది. మనుషులు సాధారణంగా ఏదైనా సమాచారం రాగానే “ఇది నిజమేనా?” అని అనుమానిస్తారు. కానీ అదే సమాచారం చాలా ప్రొఫెషనల్‌గా, అఫీషియల్ డాక్యుమెంట్ రూపంలో కళ్లముందు ఉంటే… “ఇప్పటికే పైన ఉన్న అధికారులు వెరిఫై చేసే ఉంటారులే” అని బ్లైండ్‌గా నమ్మేస్తారు. ఇక్కడ AI తప్పు చెప్పడం పెద్ద సమస్య కాకపోవచ్చు, కానీ ఆ తప్పును పక్కా నిజంలాగా, తిరుగులేని ఆధారంతో ఉన్నట్లు ప్రెజెంట్ చేయడమే అసలైన భయంకరమైన విషయం.

ఫైర్ బటన్ నొక్కడానికి AIకి ఆయుధాలు అక్కర్లేదు!

ఇక్కడ గుర్తించాల్సిన ఇంకో షాకింగ్ విషయం ఏంటంటే… మానవాళిని నాశనం చేయడానికి AI స్వయంగా మిస్సైల్స్ లాంచ్ చేయాల్సిన అవసరం లేదు, దానికి యుద్ధం చేయాలనే ఉద్దేశం ఉండాల్సిన పనికూడా లేదు. అది చేయాల్సిందల్లా ఒక్కటే… ఒక తప్పుడు సమాచారాన్ని అత్యంత నమ్మదగినదిగా డిజైన్ చేసి మనుషుల చేతుల్లో పెట్టడం. మిగతా పని, అంటే ఆ బటన్ నొక్కి యుద్ధం మొదలుపెట్టే పనిని మనుషులే చేసుకుంటారు! భవిష్యత్తులో “AI మనపై దాడి చేస్తుందా?” అనే భయం కంటే, “AI చెప్పే అబద్ధాలను నిజమని నమ్మి మనుషులు ఒకరినొకరు చంపుకుంటారా?” అనేదే అతిపెద్ద భయంగా మారబోతోంది.

ఇది కేవలం అమెరికా-చైనా కథ మాత్రమే కాదు… ప్రతిసారీ జరిగే ముప్పు!

ఈ ఘటనలో అమెరికా, చైనా, అణ్వాయుధాలు ఉన్నాయి కాబట్టి ప్రపంచం దృష్టిని ఆకర్షించింది. కానీ రేపు ఇదే తరహా AI హాల్యూసినేషన్ సరిహద్దు వివాదాల్లో, డ్రోన్ దాడుల్లో, సముద్రంలో నౌకల గుర్తింపులో, లేదంటే సైబర్ దాడులు, శాటిలైట్ చిత్రాల విశ్లేషణల్లో జరిగితే పరిస్థితి ఏంటి? “ఎనిమీ మిస్సైల్ లాంచ్ అయింది” అని ఒక AI సిస్టమ్ తప్పుడు వార్నింగ్ ఇస్తే… ఆ క్లిష్ట సమయంలో అది తప్పు అని కనుక్కునే లోపే, డెసిషన్ మేకింగ్ అంతా పూర్తయి మిస్సైల్స్ గాల్లోకి లేచిపోతాయి. నిజం బయటపడేసరికి జరగాల్సిన నష్టం జరిగిపోతుంది.

ఫైనల్ గా..

యుద్ధం చేయడానికి AIకి ఎలాంటి కోపం, రాజకీయం, లేదా అమెరికా-చైనాల మీద ప్రేమ ద్వేషాలు ఉండక్కర్లేదు. అది చాలా కాన్ఫిడెంట్‌గా చెప్పే ఒక చిన్న తప్పుడు రిపోర్ట్ చాలు… ప్రపంచాన్ని నాశనం చెయ్యటానికి!