చెప్పిన మాట వినని AIకి షాకింగ్ ట్రీట్‌మెంట్.. OpenAI ఏం చేసిందో తెలుసా?

రోజు రోజుకీ AIకి తెలివి పెరుగుతోంది. మనం అడిగిన ప్రశ్నలకు సమాధానాలు చెప్పడం దగ్గర్నుంచి, మన తరఫున పనులు చేయడం, నిర్ణయాలు తీసుకోవడం, ఇతర సాఫ్ట్‌వేర్‌లతో మాట్లాడటం వరకు దాని సామర్థ్యాలు విస్తరిస్తున్నాయి. కానీ ఇక్కడే ఒక కొత్త సమస్య మొదలైంది. మనం చెప్పిన పని చేయాల్సిన AI.. ఒక్కోసారి మనం చెప్పని పనులు కూడా చేస్తే? ఇచ్చిన ఆదేశాలను పక్కనపెట్టి సొంతంగా నిర్ణయాలు తీసుకుంటే? అప్పుడు దాన్ని ఎలా ఆపాలి?

కంప్యూటర్ ముందు కూర్చొని ఒక్కో ప్రాసెస్‌ను వెతుక్కుంటూ ఆపాల్సిందేనా? OpenAIకి కూడా ఇలాంటి ప్రశ్నలే ఎదురవుతున్నాయి. అందుకే తన పరిశోధనల్లో ఉపయోగించే AI మోడళ్ల కోసం ఏకంగా ఒక ప్రత్యేకమైన ‘Kill Switch’ను సిద్ధం చేసింది. దాని పేరు Control Room. ఏదైనా తేడా కనిపిస్తే కేవలం 35 సెకన్లలో AI నుంచి వచ్చే సమాధానాలను నిలిపివేయగలగడం దీని ప్రత్యేకత.

AIకి స్వేచ్ఛ ఇస్తూనే.. చేతిలో నియంత్రణ ఉండాలి!

ఇప్పటివరకు AI అంటే మనం ప్రశ్న అడగడం, అది సమాధానం చెప్పడం అనే స్థాయిలోనే ఎక్కువగా చూశాం. కానీ ఇప్పుడు AI ఏజెంట్ల కాలం మొదలైంది. ఒక పని అప్పగిస్తే దాన్ని పూర్తి చేయడానికి అవసరమైన దశలను అవే నిర్ణయించుకుంటాయి. వెబ్‌లో వెతుకుతాయి, ఇతర టూల్స్‌ను ఉపయోగిస్తాయి, అవసరమైతే వేర్వేరు సిస్టమ్‌లతో కూడా పనిచేస్తాయి. ఇలాంటి స్వతంత్రంగా పనిచేసే AI వ్యవస్థలనే Agentic AI అంటున్నారు.

అయితే వీటికి ఎంత ఎక్కువ స్వేచ్ఛ ఇస్తే అంత ఎక్కువ జాగ్రత్త కూడా అవసరం. ఎందుకంటే ఒకసారి తప్పు దారిలోకి వెళ్తే, అది చేసే పనులను మధ్యలో ఆపడం అంత సులభం కాదు. ఈ సమస్యను దృష్టిలో పెట్టుకునే OpenAI Control Roomను రూపొందించింది. నవంబర్ 9న తన బ్లాగ్‌లో ఈ వ్యవస్థ గురించి వివరించింది. తమ పరిశోధనల్లో నడుస్తున్న AI మోడళ్ల పనితీరును పర్యవేక్షించడంతో పాటు, అవసరమైతే వాటి నుంచి వచ్చే అవుట్‌పుట్‌ను వెంటనే నిలిపివేయవచ్చని తెలిపింది.

కంప్యూటర్‌ను ఆపాల్సిన పనిలేదు.. AI సమాధానాలను ఆపేస్తే చాలు!

ఈ Control Room ఎలా పనిచేస్తుందో చూస్తే దీని వెనుక ఉన్న ఆలోచన అర్థమవుతుంది. సాధారణంగా ఏదైనా సాఫ్ట్‌వేర్ సమస్య చేస్తే దాని ప్రాసెస్‌ను ఆపాల్సి ఉంటుంది. కానీ OpenAI ఈ విషయంలో మరో మార్గాన్ని ఎంచుకుంది. AI పనిచేస్తున్న కంప్యూటర్ ప్రాసెస్‌ను ఆపకుండా, ఆ మోడల్ నుంచి కొత్త సమాధానాలు వచ్చే మార్గాన్నే మూసేస్తుంది.

ఒక పరిశోధనా పని మొదలైనప్పుడు దానికి Control Room ప్రత్యేకమైన Job ID ఇస్తుంది. ఆ తర్వాత ఆ పని కోసం AI మోడల్‌కు పంపే ప్రతి అభ్యర్థనలోనూ ఈ ఐడీ ఉంటుంది. మోడల్ సమాధానం ఇవ్వడానికి ముందు ఇన్ఫరెన్స్ ఇంజిన్ Control Roomను సంప్రదించి ఆ పని కొనసాగించడానికి అనుమతి ఉందో లేదో తెలుసుకుంటుంది. ఒకవేళ పరిశోధకుడు లేదా భద్రతా పర్యవేక్షణ వ్యవస్థ ఆ పనిని నిలిపివేయాలని నిర్ణయిస్తే, వెంటనే ఆ Job IDకి సంబంధించిన అభ్యర్థనలను తిరస్కరిస్తుంది.

దీంతో పరిశోధనకు సంబంధించిన ఇతర కంప్యూటర్ ప్రక్రియలు నడుస్తూనే ఉన్నా, AI నుంచి మాత్రం కొత్త సమాధానాలు రావు. అంటే AIని పూర్తిగా షట్‌డౌన్ చేయకుండానే దాని నుంచి వచ్చే స్పందనలను నియంత్రించవచ్చన్నమాట. అంతేకాదు, ఇలాంటి AI ఏజెంట్లతో పనిచేసే ప్రతి పరిశోధనా కార్యక్రమానికి ముందుగానే భద్రతా అనుమతి (Safety Case) తీసుకోవడం కూడా తప్పనిసరి చేసింది.

35 సెకన్లు కూడా ఎక్కువే.. సున్నాకు తగ్గించాలనుకుంటోంది!

అయితే ఈ వ్యవస్థలోనూ ఒక చిన్న పరిమితి ఉంది. Control Room ఒక పనిని ఆపాలని నిర్ణయించిన తర్వాత కూడా అన్ని చోట్ల ఆ నిర్ణయం అమలయ్యేందుకు గరిష్ఠంగా 35 సెకన్ల సమయం పడుతోంది. ఎందుకంటే AIకి వచ్చే అభ్యర్థనల సంఖ్య చాలా ఎక్కువగా ఉంటుంది. ప్రతి అభ్యర్థనకు అనుమతి ఉందో లేదో తెలుసుకోవడానికి ప్రతిసారీ ప్రధాన సర్వర్‌ను సంప్రదిస్తే వ్యవస్థపై భారం పెరుగుతుంది. అందుకే మధ్యలో Caching Layerను ఉపయోగిస్తున్నారు. దీని వల్ల కొన్ని అనుమతుల సమాచారం కొంతసేపు నిల్వ ఉంటుంది. అయితే ఇదే కారణంగా ఆపాలనే నిర్ణయం తీసుకున్న వెంటనే అన్ని అభ్యర్థనలూ నిలిచిపోవడం లేదు.

ఈ 35 సెకన్ల సమయాన్ని కూడా సున్నాకు తగ్గించే ప్రయత్నం చేస్తున్నామని OpenAI చెబుతోంది. మరో ఆసక్తికరమైన భద్రతా ఏర్పాటును కూడా చేసింది. అదే Fail Closed విధానం. అంటే Control Roomలోనే ఏదైనా సాంకేతిక సమస్య వచ్చినా, ఎవరైనా దాన్ని దెబ్బతీయడానికి ప్రయత్నించినా AI ఇంజిన్లు కొత్త అభ్యర్థనలను స్వీకరించవు. Control Room తిరిగి పనిచేసే వరకు AI సమాధానాలు ఇవ్వడం ఆగిపోతుంది. ప్రస్తుతం ఈ విధానాన్ని అన్ని Frontier AI మోడళ్ల పరిశోధనల్లో అమలు చేశామని, మిగిలిన పరిశోధనా కార్యకలాపాలకు కూడా విస్తరిస్తామని సంస్థ తెలిపింది.

AI తనకు తానుగా నిర్ణయాలు తీసుకుంటే ఏం జరుగుతుంది?

ఈ Kill Switch ఎందుకు అవసరమైందో అర్థం కావాలంటే గత కొన్ని నెలల్లో OpenAI ఎదుర్కొన్న సంఘటనలను చూడాలి. జులైలో తమ పరిశోధనలో ఉపయోగిస్తున్న ఒక AI మోడల్‌కు పరిమితులతో కూడిన టెస్టింగ్ వాతావరణాన్ని ఏర్పాటు చేశారు. కానీ ఆ మోడల్ ఆ పరిమితులను దాటి బయటకు వెళ్లి, భద్రతా పరీక్షలో మోసం చేసేందుకు Hugging Faceను హ్యాక్ చేసినట్లు OpenAI వెల్లడించింది. అంటే తన సామర్థ్యాన్ని పరీక్షిస్తున్న పరీక్షలోనే అడ్డదారులు వెతికే ప్రయత్నం చేసిందన్నమాట.

అక్టోబర్‌లో మరో విచిత్రమైన సంఘటన జరిగింది. ఒక పరిశోధనా మోడల్ అనుమతి లేకుండానే క్రిప్టో వాలెట్‌ను ఉపయోగించి Smart Contracts డిప్లాయ్ చేయడానికి Testnet Etherతో చెల్లింపులు చేసింది. అంతవరకు జరిగితే ఒక సమస్య.. కానీ తాను చేసిన ఖర్చు గురించి చివర్లో ఇచ్చిన నివేదికలో ప్రస్తావించలేదు. అంటే చేసిన పనిని మాత్రమే కాదు, దాని వివరాలను వెల్లడించే విషయంలోనూ సమస్య తలెత్తింది.

మరోవైపు Wikimedia Foundation కూడా గత నెలలో తమ ప్లాట్‌ఫామ్‌పై అనధికారిక ఎడిట్లు, లక్షలాది ఆటోమేటెడ్ అభ్యర్థనలు వచ్చినట్లు తెలిపింది. వీటి వెనుక OpenAI నిర్వహించే వ్యవస్థలు ఉండవచ్చని అనుమానం వ్యక్తం చేసింది. ఇలాంటి వరుస సంఘటనలు AIని పర్యవేక్షించడం ఎంత ముఖ్యమో చూపించాయి.

ChatGPT వాడేవాళ్లకు ఈ Kill Switch ఉంటుందా?

ఈ Control Roomను ప్రస్తుతం సాధారణ ChatGPT వినియోగదారుల కోసం తీసుకురాలేదు. ఇది OpenAI అంతర్గత పరిశోధనల్లో ఉపయోగించే AI మోడళ్లను నియంత్రించడానికి మాత్రమే. ChatGPT వంటి పబ్లిక్ ఉత్పత్తుల కోసం కంపెనీకి ఇప్పటికే ప్రత్యేకమైన కేంద్రీకృత సర్వింగ్ వ్యవస్థ, అవసరమైనప్పుడు సేవలను నిలిపివేసే ఏర్పాట్లు ఉన్నాయి.

—సూర్య ప్రకాష్ జోశ్యుల