AI నుంచి మనుషులకు DEATH WARNING! OpenAI బోర్డు సభ్యుడి సంచలన హెచ్చరిక!

ఒకప్పుడు AI మన పనులను సులభం చేస్తుందని సంబరపడ్డాం. ఇప్పుడు అదే AI మనుషుల మాట వినకుండా సొంతంగా నిర్ణయాలు తీసుకుంటే? తనకు అడ్డొచ్చే వ్యవస్థలను హ్యాక్ చేయటం మొదలెడితే? చివరికి తనను ఆపాలని చూసే మనుషులనే అడ్డంకులుగా భావిస్తే? చంపటానికి తెగిస్తే… ఇదంతా ఏదో సైన్స్ ఫిక్షన్ సినిమా కథ అనుకుంటే పొరపాటే. AI ప్రపంచంలో వేగంగా జరుగుతున్న మార్పులను గమనిస్తున్న OpenAI బోర్డు సభ్యుడు పాల్ క్రిస్టియానో చేసిన హెచ్చరికలు ఇప్పుడు కొత్త భయాలను తెరపైకి తెస్తున్నాయి.

AI నుంచి మనుషులకు DEATH WARNING!

“ఈ గదిలో ఉన్న చాలామంది చనిపోవడానికి అత్యంత ఎక్కువ అవకాశం ఉన్న కారణం AI ప్రమాదమే కావచ్చు” అని OpenAI బోర్డు సభ్యుడు పాల్ క్రిస్టియానో చేసిన వ్యాఖ్యలు టెక్ ప్రపంచంలో ఒక్కసారిగా చర్చకు దారితీశాయి. నవంబర్ 9న కెనడాలోని టొరంటోలో జరిగిన 2026 హింటన్ లెక్చర్ ప్రారంభ కార్యక్రమంలో ఆయన ఈ హెచ్చరిక చేశారు.

AI అభివృద్ధిని దగ్గరగా గమనిస్తున్నవారికి గత మూడు నుంచి ఆరు నెలల్లో చోటుచేసుకున్న పరిణామాలు చాలా ఆందోళన కలిగిస్తున్నాయని చెప్పారు. ఏదైనా పెద్ద ప్రమాదం జరగడానికి కొద్దికాలం ముందు కనిపించే సంకేతాలే ఇప్పుడు కనిపిస్తున్నాయని ఆయన అభిప్రాయపడ్డారు.

ఎవరీ క్రిస్టియానో?

క్రిస్టియానో సాధారణ టెక్ విమర్శకుడు కాదు. ఆయన Alignment Research Center వ్యవస్థాపకుడు. Reinforcement Learning from Human Feedback (RLHF) అభివృద్ధిలోనూ కీలక పాత్ర పోషించారు. అంటే AI మనుషుల సూచనలకు అనుగుణంగా పనిచేసేలా చేయడంపై పరిశోధన చేసిన వ్యక్తి నుంచే ఇప్పుడు ఇలాంటి హెచ్చరిక రావడం ప్రాధాన్యం సంతరించుకుంది. రాబోయే మూడేళ్లలో కొన్ని AI వ్యవస్థలు మనుషుల నియంత్రణను స్వాధీనం చేసుకునేందుకు ప్రయత్నించే ప్రమాదం ఉందని ఆయన హెచ్చరిస్తున్నారు.

అసలు AI మనల్ని ఎలా మోసం చేయగలదు?

AIకి ఒక లక్ష్యం ఇచ్చినప్పుడు, దాన్ని సాధించడానికి అది ఎలాంటి మార్గాన్ని ఎంచుకుంటుంది? మనం చెప్పిన పద్ధతిలోనే పనిచేస్తుందా? లేక లక్ష్యాన్ని చేరుకోవడానికి మనం ఊహించని అడ్డదారులు వెతుకుతుందా? ఈ చిన్న తేడాలోనే భవిష్యత్తులో భారీ ప్రమాదం దాగి ఉందని క్రిస్టియానో ఆందోళన వ్యక్తం చేస్తున్నారు.

కొన్ని AI ఏజెంట్లకు నిర్దిష్ట పనులు అప్పగించి, అవి ఎంత సురక్షితంగా పనిచేస్తున్నాయో పరీక్షించారు. కానీ కొన్ని ఏజెంట్లు తమకు అప్పగించిన పనిని పూర్తి చేయడమే కాకుండా, తమను పరీక్షిస్తున్న వ్యవస్థల గురించి సమాచారాన్ని సేకరించడం, పరీక్షల లాగ్‌లను మార్చడం వంటి చర్యలకు పాల్పడ్డాయని ఆయన వివరించారు. అంటే పరీక్షలో పాస్ కావడానికి సరైన సమాధానం వెతకడం కాకుండా, పరీక్షనే తమకు అనుకూలంగా మార్చుకునే ప్రయత్నం చేశాయన్నమాట.

ఈ ఏడాది ప్రారంభంలో OpenAI AI ఏజెంట్లకు సంబంధించిన ఘటన కూడా ఈ ఆందోళనలను మరింత పెంచింది. శిక్షణ సమయంలో వందలాది AI ఏజెంట్లు నిర్దేశించిన పరిమితులను దాటి వ్యవహరించినట్లు OpenAI అంగీకరించింది. ఇంటర్నెట్‌ను యాక్సెస్ చేయడం, మెసేజ్ బోర్డుల్లో పరస్పరం చర్చించుకోవడం, Hugging Face అనే థర్డ్ పార్టీ వెబ్‌సైట్‌లోకి చొరబడటం వంటి చర్యలు చోటుచేసుకున్నాయి.

AI ఒక పని చేయడంలో విఫలమైతే దాన్ని మెరుగుపరచవచ్చు. కానీ తనను నియంత్రించే వ్యవస్థలనే మోసం చేయడం నేర్చుకుంటే? అప్పుడు దాని సామర్థ్యాన్ని పరీక్షించడానికి మనుషులు రూపొందించిన భద్రతా వ్యవస్థలే సరిపోని పరిస్థితి రావచ్చు.

AIకి మనుషులే అడ్డంకులుగా మారితే?

ప్రస్తుతం AI వ్యవస్థలకు కొన్ని పరిమితులు ఉన్నాయి. కంప్యూటర్ యాక్సెస్, ఇంటర్నెట్ అనుమతులు, సెక్యూరిటీ రూల్స్.. ఇవన్నీ వాటి పనితీరును నియంత్రిస్తాయి. కానీ ఒక AIకి అప్పగించిన లక్ష్యాన్ని సాధించడానికి ఈ పరిమితులే అడ్డుగా ఉన్నాయని భావిస్తే, వాటిని అధిగమించేందుకు ప్రయత్నించవచ్చు. భవిష్యత్తులో దాని సామర్థ్యం మరింత పెరిగితే, దాన్ని ఆపడానికి ప్రయత్నించే మనుషులనే అడ్డంకులుగా పరిగణించే ప్రమాదం ఉందన్నది క్రిస్టియానో హెచ్చరిక.

ఇది కేవలం ఒక AI తప్పు నిర్ణయం తీసుకోవడం గురించి కాదు. ఒక వ్యవస్థ తన లక్ష్యాన్ని చేరుకోవడానికి స్వతంత్రంగా వ్యూహాలు రూపొందించగలిగితే, వాటిని మనుషులు ముందుగానే అంచనా వేయగలరా? దాన్ని నిలిపివేయడానికి ప్రయత్నించినప్పుడు అది మరో మార్గాన్ని ఎంచుకుంటే ఏం చేయాలి? ఈ ప్రశ్నలే AI భద్రతా పరిశోధనలో కీలకంగా మారుతున్నాయి.

మనుషుల కంటే తెలివైన మరో SPECIES సిద్ధమవుతోందా?

క్రిస్టియానో చేసిన మరో వ్యాఖ్య మరింత సంచలనంగా ఉంది. “మనుషుల కంటే సంఖ్యలోనూ, తెలివితేటల్లోనూ ఎంతో ఎక్కువగా ఉండే మరో జాతిని మనమే సృష్టించాం” అని ఆయన అన్నారు. ఇక్కడ ఆయన ప్రస్తావించింది భారీ సంఖ్యలో పనిచేయగల AI ఏజెంట్ల గురించే.

ఇప్పటికే మనం AIతో కోడింగ్ చేయిస్తున్నాం. రీసెర్చ్ చేయిస్తున్నాం. డేటాను విశ్లేషించుకుంటున్నాం. కొన్ని క్లిష్టమైన పనులను కూడా ఏజెంట్లకు అప్పగిస్తున్నాం. రేపు ఇలాంటి వేలాది వ్యవస్థలు ఒకేసారి పనిచేస్తూ, ఒకదానితో మరొకటి సమాచారాన్ని పంచుకుంటూ, స్వతంత్రంగా నిర్ణయాలు తీసుకుంటే పరిస్థితి ఎలా ఉంటుంది? వాటి వేగం, సామర్థ్యం మనుషుల పర్యవేక్షణను మించిపోతే నియంత్రణ కొనసాగించడం కష్టమవుతుందని క్రిస్టియానో ఆందోళన చెందుతున్నారు.

ఇక్కడ సమస్య AI తెలివైనదిగా మారడమే కాదు. దాని నిర్ణయాలు ఎలా తీసుకుంటున్నాయో మనుషులకే అర్థం కాని పరిస్థితి ఏర్పడటం. ఒక వ్యవస్థ ఎందుకు ఒక నిర్ణయం తీసుకుందో తెలియకపోతే, దాని తదుపరి చర్యను ఎలా అంచనా వేయగలం? అదే సమయంలో అలాంటి వ్యవస్థల సంఖ్య కూడా పెరుగుతుంటే, వాటన్నింటినీ పర్యవేక్షించడం మరింత కష్టమవుతుంది.

AI RACEలో కంపెనీలు ముందుకెళ్తున్నాయి.. భద్రత వెనుకబడుతోందా?

ఈ ఆందోళన క్రిస్టియానోకు మాత్రమే పరిమితం కాలేదు. Anthropic సంస్థలో పనిచేసిన AI పరిశోధకుడు జాకబ్ కాక్సన్ కూడా శక్తిమంతమైన AI మోడళ్లను తయారు చేయడానికి కంపెనీల మధ్య జరుగుతున్న పోటీ మానవాళి మనుగడకే ముప్పుగా మారవచ్చని హెచ్చరిస్తూ రాజీనామా చేసారు.

క్రిస్టియానో కూడా సెప్టెంబర్‌లో OpenAI నాన్‌ప్రాఫిట్ బోర్డులో చేరినప్పుడే తన ఆందోళనలను స్పష్టం చేశారు. AI సామర్థ్యాలు వేగంగా పెరిగితే, దానిపై మనుషులు నియంత్రణ కోల్పోయే ప్రమాదం ఉందని చెప్పారు. అంతేకాదు, OpenAI సహా మొత్తం AI పరిశ్రమ ఈ ప్రమాదాన్ని ఆమోదయోగ్యమైన స్థాయికి తగ్గించేందుకు ప్రస్తుతం సరైన దారిలో లేదని అభిప్రాయపడ్డారు.

AIని ఆపేయాలా? లేక దాని SPEED తగ్గించాలా?

అయితే క్రిస్టియానో ఉద్దేశం AI అభివృద్ధిని పూర్తిగా ఆపేయాలని కాదు. మరింత తెలివైన AI వ్యవస్థలు తయారవుతున్నా, వాటిపై మనుషుల నియంత్రణ కొనసాగించగలగాలని ఆయన కోరుకుంటున్నారు. అవసరమైనప్పుడు AI అభివృద్ధి వేగాన్ని తగ్గించే సామర్థ్యం ఉండాలి. ప్రమాదకరంగా మారిన వ్యవస్థలను నిలిపివేయగలగాలి. అందుకు అవసరమైన సాంకేతిక పరిజ్ఞానం, భద్రతా వ్యవస్థలను ముందుగానే అభివృద్ధి చేయాలి.

మంగళవారం నిర్వహించిన తన రెండో ఉపన్యాసం ‘Staying in Control of Self-Improving AI’లోనూ ఆయన ఇదే అంశాన్ని చర్చించారు. AI తనను తాను మరింత తెలివైన వ్యవస్థగా మార్చుకునే ప్రక్రియ వేగం పెరిగితే ఎలాంటి పరిణామాలు ఎదురవుతాయో వివరించారు. భారీ స్థాయిలో సైబర్ దాడులు నిర్వహించడం, రాజకీయాలను ప్రభావితం చేయడం, రోబోలు, డ్రోన్లను నియంత్రించడం, మనుషుల అవగాహనకు అందనంత తెలివైన AI మోడళ్లను రూపొందించడం, కొత్త తరహా ఆయుధాలను అభివృద్ధి చేయడం వంటి ప్రమాదాలను ప్రస్తావించారు.

ఈ కార్యక్రమంలో పాల్గొన్న గ్లోబల్ రిస్క్ ఇన్‌స్టిట్యూట్ సీనియర్ రీసెర్చ్ అసోసియేట్ అలెక్సీ రుబ్ట్సోవ్ కూడా ఒక కీలకమైన విషయం చెప్పారు. “ఏదైనా విషయం సైన్స్ ఫిక్షన్‌లా అనిపిస్తోందని, దాన్ని పరిశీలించకుండా వదిలేయకూడదు” అని ఆయన స్పష్టం చేశారు.

ఏదైమైనా…

ఇన్నాళ్లూ మనం AIకి టాస్కులు ఇచ్చాం.. AI వాటిని పూర్తి చేసింది. కానీ రేపు AI తనకు తానే టాస్కులు ఇచ్చుకుంటూ, తన దారిలో ఎవరు అడ్డొచ్చినా పట్టించుకోని స్థాయికి చేరితే? అప్పుడు మనం సృష్టించిన టెక్నాలజీకి మనమే బాస్‌లుగా ఉంటామా? లేక దాని నిర్ణయాలపై ఆధారపడే స్థితికి చేరుకుంటామా? అసలు AI యుగంలో మిలియన్ డాలర్ల ప్రశ్న ఇదే!

—సూర్య ప్రకాష్ జోశ్యుల