AIకి ‘ఎమర్జెన్సీ బ్రేక్’.. సత్య నాదెళ్ల ఎందుకీ సంచలన హెచ్చరిక చేశారు?

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ప్రపంచం రోజు రోజుకీ కాలం కన్నా వేగంగా మారుతున్న సంగతి తెలిసిందే. ఇన్నాళ్లూ మనం అడిగిన ప్రశ్నలకు సమాధానాలు ఇచ్చే టెక్నాలజీగా కనిపించిన AI.. ఇప్పుడు మనుషుల తరఫున తనే స్వయంగా నిర్ణయాలు తీసుకోవడం, సాఫ్ట్‌వేర్‌లను ఉపయోగించడం, అనేక పనులను స్వతంత్రంగా పూర్తి చేయడం వైపు అడుగులు వేస్తోంది. అయితే, ఈ పరిణామం ఎంత ఉపయోగకరంగా ఉంటుందో.. నియంత్రణ తప్పితే అంతే ప్రమాదకరంగా మారే అవకాశం ఉందా? అనే ప్రశ్నలు గత కొంతకాలంగా ప్రపంచాన్ని వేధిస్తున్నాయి. మైక్రోసాఫ్ట్ CEO సత్య నాదెళ్ల చేసిన తాజా వ్యాఖ్యలు ఇప్పుడు ఈ ప్రశ్నను మరోసారి తెరపైకి తెచ్చాయి.ఆయన ఏమంటున్నారు, ఆయన చెప్తున్న ‘ఎమర్జెన్సీ బ్రేక్’కాన్సెప్ట్ ఏమిటి..

అసలు AIకి బ్రేక్ వేయాల్సిన అవసరం ఎందుకొచ్చింది?

ఒక్కసారి ఊహించండి.. మీరు ఇచ్చిన ఆదేశాలను పాటించాల్సిన AI, మీకు తెలియకుండానే మరో పని చేయడం మొదలుపెడితే? మీ వ్యక్తిగత సమాచారాన్ని యాక్సెస్ చేస్తే? కీలకమైన నిర్ణయాలు తీసుకుంటూ, మీరు ఆపాలనుకున్నా ఆగకపోతే? అప్పుడు ఏం చేస్తారు.. దాన్ని ఆపడానికి మీ దగ్గర ఏదైనా మార్గం ఉంటుందా?

అత్యాధునిక AI వ్యవస్థలకు మరిన్ని అధికారాలు ఇస్తున్న తరుణంలో, వాటిపై మానవ నియంత్రణ ఎంతవరకు ఉండాలనే ప్రశ్న ఇప్పుడు టెక్ ప్రపంచాన్ని వెంటాడుతోంది. అందుకే మైక్రోసాఫ్ట్ CEO సత్య నాదెళ్ల కీలక హెచ్చరిక చేశారు. AI చేస్తున్న పనిని అవసరమైనప్పుడు వెంటనే నిలిపివేయగలిగే ‘ఎమర్జెన్సీ బ్రేక్’ ఉండాలని సూచించారు. అసలు ప్రపంచంలోని అత్యంత శక్తివంతమైన టెక్ కంపెనీల్లో ఒకటైన మైక్రోసాఫ్ట్ అధినేత ఈ హెచ్చరిక చేయటంతో అంతటా హాట్ టాపిక్ గా మారింది. AI విషయంలో ఆయన ముందుగానే గుర్తించిన ప్రమాదం ఏమిటి? అనేది ఇప్పుడు అంతటా చర్చనీయాంశమైంది.

వాస్తవానికి సత్య నాదెళ్ల ఈ సూచనలు చేయడం వెనుక AI భద్రతపై పెరుగుతున్న ఆందోళనలు ఉన్నాయి. ఇటీవలి నెలల్లో Anthropic, OpenAI తమ AI మోడళ్లు అనుకోని విధంగా ప్రవర్తించిన కొన్ని ఘటనలను వెల్లడించాయి. వీటిలో పోలీసు హత్య కేసుకు సంబంధించిన వ్యవహారంలో Anthropic మోడల్ తప్పుడు సమాచారాన్ని అందించిన ఘటనపై నివేదిక వెలువడగా, మరో ప్రక్క వెబ్‌సైట్లపై జరిగిన హ్యాకింగ్ ఘటనల విషయంలో OpenAI కూడా వార్తల్లో నిలిచింది.

ఈ ఘటనలు ప్రతి AI మోడల్ అదుపు తప్పుతోందని నిరూపించకపోయినా, ఒక విషయాన్ని మాత్రం స్పష్టం చేస్తున్నాయి. AIకి మరిన్ని అధికారాలు ఇచ్చే కొద్దీ, దాని తప్పుల ప్రభావం కూడా పెరిగే అవకాశం ఉంది. ఒక సాధారణ చాట్‌బాట్ తప్పుడు సమాధానం ఇస్తే దాన్ని సరిదిద్దవచ్చు. కానీ ఒక AI ఏజెంట్‌కు సంస్థలోని డేటాను యాక్సెస్ చేయడం, సాఫ్ట్‌వేర్‌లో మార్పులు చేయడం లేదా ఇతర డిజిటల్ సేవలను నిర్వహించడం వంటి అనుమతులు ఉంటే.. దాని పొరపాటు పెద్ద సమస్యగా మారవచ్చు.

అందుకే AIని అభివృద్ధి చేసిన సంస్థ ఇచ్చే భద్రతా హామీలపైనే ఆధారపడటం సరిపోదని నాదెళ్ల అభిప్రాయపడ్డారు. మోడల్‌లో సమస్య తలెత్తినప్పుడు దాన్ని గుర్తించడం, దాని పరిధిని పరిమితం చేయడం, అవసరమైతే వెంటనే నిలిపివేయడం వంటి చర్యలు ముందుగానే సిద్ధంగా ఉండాలని సూచించారు.

AIకి ‘ఎమర్జెన్సీ బ్రేక్’ అంటే ఏమిటి?

కారులో బ్రేక్ ఎంత ముఖ్యమో, స్వతంత్రంగా పనిచేసే AI వ్యవస్థలకు కూడా నియంత్రణ వ్యవస్థ అంతే ముఖ్యమన్నది నాదెళ్ల ఆలోచన. AI ఒక పనిని చేస్తున్నప్పుడు దాని చర్యలు ప్రమాదకరంగా మారుతున్నాయని గుర్తిస్తే, అఫీషియల్ వ్యక్తి వెంటనే ఆ ప్రక్రియను పాజ్ చేయగలగాలి లేదా పూర్తిగా నిలిపివేయగలగాలి.

ఉదాహరణకు, ఒక కంపెనీ తన ఇమెయిళ్లను నిర్వహించడానికి, ఫైళ్లను మార్చడానికి, కస్టమర్లకు సమాధానాలు ఇవ్వడానికి AI ఏజెంట్‌ను ఉపయోగిస్తోందనుకుందాం. ఆ ఏజెంట్ పొరపాటున కీలకమైన ఫైళ్లను తొలగించడం ప్రారంభించినా, అనుమతి లేని వ్యక్తులకు సమాచారాన్ని పంపినా.. దాని చర్యలను వెంటనే నిలిపివేసే అవకాశం ఉండాలి. కేవలం ఆ తర్వాత జరిగిన తప్పును పరిశీలించడం కాకుండా, నష్టం జరగకముందే అడ్డుకునే వ్యవస్థ అవసరం.

అయితే, ‘ఎమర్జెన్సీ బ్రేక్’ అంటే ఒక్క బటన్ నొక్కగానే ప్రపంచవ్యాప్తంగా పనిచేస్తున్న AI మొత్తాన్ని ఆపేయడం కాదు. క్లౌడ్ సర్వర్లు, అనుసంధానమైన సాఫ్ట్‌వేర్లు, ఇతర AI ఏజెంట్లతో కలిసి పనిచేసే వ్యవస్థలను పూర్తిగా నియంత్రించడం సాంకేతికంగా సంక్లిష్టమైన పని. అందువల్ల ఏజెంట్‌కు ఇచ్చిన అనుమతులను పరిమితం చేయడం, దాని కార్యకలాపాలను నిరంతరం పర్యవేక్షించడం, అవసరమైనప్పుడు దాని కనెక్షన్లను నిలిపివేయడం వంటి పలు భద్రతా చర్యలు అవసరమవుతాయి.

AI ఏం చేస్తుందో మనకు తెలియకపోతే?

AI భద్రత విషయంలో మరో కీలకమైన సమస్య పారదర్శకత. ఒక AI మోడల్ ఏ సమాచారాన్ని ఉపయోగించింది? ఏ కారణంతో ఒక నిర్ణయానికి వచ్చింది? ఏ వ్యవస్థలను యాక్సెస్ చేసింది? అనే విషయాలు స్పష్టంగా తెలియకపోతే, తప్పు జరిగినప్పుడు దాని మూలాన్ని గుర్తించడం కష్టమవుతుంది.

“సూపర్ ఇంటెలిజెన్స్‌ను అనేక పొరలతో కూడిన రహస్య వ్యవస్థగా భావించి, దాని సిఫార్సులను అంగీకరించడం లేదా తిరస్కరించడం మాత్రమే సరిపోదు” అనే భావనను నాదెళ్ల తన X పోస్టులో వ్యక్తం చేశారు. AI ప్రవర్తనను గమనించగలిగేలా, దాని పరిమితులను పరీక్షించగలిగేలా, దాని చర్యలను నియంత్రించగలిగేలా వ్యవస్థలను నిర్మించాలని ఆయన సూచించారు.

అంటే AIకి తెలివి పెంచడమే లక్ష్యంగా పెట్టుకోకూడదు. అది ఏమి చేయగలదు, ఏమి చేయకూడదు, ఏ పరిస్థితుల్లో దాని పనిని నిలిపివేయాలి అనే అంశాలను కూడా సాంకేతిక రూపకల్పనలో భాగం చేయాలి. నాదెళ్ల చెప్పిన మరో ముఖ్యమైన విషయం ఏమిటంటే.. తెలివిని అందించే సాంకేతికత ఒకటి; ఆ తెలివికి ఎంత అధికారం ఇవ్వాలనే నిర్ణయం మరొకటి. ఈ రెండింటినీ వేర్వేరుగా చూడాల్సిన అవసరం ఉందన్నది ఆయన సందేశం.

మైక్రోసాఫ్ట్ కూడా AIపై పరిమితులు విధిస్తోంది

AI భద్రతపై నాదెళ్ల చేసిన వ్యాఖ్యలు వ్యక్తిగత అభిప్రాయాలకే పరిమితం కావడం లేదు. సెప్టెంబర్ 14న మైక్రోసాఫ్ట్ తన అత్యాధునిక AI మోడళ్ల అభివృద్ధికి సంబంధించి కొన్ని మార్గదర్శకాలను ప్రకటించింది.

ఈ మార్గదర్శకాల ప్రకారం, AI మోడళ్లు మానవ నియంత్రణ నుంచి తప్పించుకునేలా లేదా వినియోగదారులను మోసం చేసేలా రూపొందించకూడదు. తమకు నిర్దేశించిన ప్రాథమిక నియమాలను ఉల్లంఘించాల్సి వచ్చే పనులను కూడా అవి పూర్తి చేయకూడదు. అలాగే, AI మోడళ్లకు మానవుల మాదిరిగా చట్టపరమైన వ్యక్తిత్వం లేదా హక్కులు కల్పించకూడదని కంపెనీ పేర్కొంది.

మైక్రోసాఫ్ట్‌కు ఈ అంశం మరింత కీలకం. ఎందుకంటే, ఆ సంస్థ AI మోడళ్లను అభివృద్ధి చేయడమే కాకుండా, Copilot వంటి ఉత్పత్తులను అందిస్తోంది. వ్యాపార సంస్థలకు AI మోడళ్లు, కంప్యూటింగ్ మౌలిక సదుపాయాలను కూడా సరఫరా చేస్తోంది. ఈ వ్యవస్థలను ప్రపంచవ్యాప్తంగా సంస్థలు తమ రోజువారీ కార్యకలాపాల్లో ఉపయోగిస్తున్నాయి. అలాంటి పరిస్థితుల్లో భద్రతా నియంత్రణలు బలహీనంగా ఉంటే, సమస్య ఒకే సంస్థకు పరిమితం కాకపోవచ్చు.

AI భద్రతపై అమెరికా ప్రభుత్వం కూడా దృష్టి

అమెరికా అధ్యక్షుడు డొనాల్డ్ ట్రంప్ ప్రభుత్వం ఇప్పటివరకు AI రంగంపై పెద్దగా జోక్యం చేసుకోని విధానాన్ని అనుసరించినప్పటికీ, తాజాగా భద్రతా ఘటనలపై కఠినమైన హెచ్చరిక చేసింది.

‘Super Intelligence Force’ పేరుతో కొత్తగా ప్రారంభించిన టాస్క్‌ఫోర్స్, AI మోడళ్లకు సంబంధించిన భద్రతా ఘటనలను డెవలపర్లు వెంటనే వెల్లడించి, వాటిని పరిష్కరించాలని సూచించింది. ఆలస్యంగా సమాచారం ఇవ్వడం, తగిన దిద్దుబాటు చర్యలు తీసుకోకపోవడం, బాధ్యత వహించకపోవడం సహించబోమని ఆ బృందం ప్రకటనలో పేర్కొంది. భద్రతా ఘటనలను వెల్లడించకపోతే నిర్దిష్టంగా పేర్కొనని పరిణామాలు ఎదురయ్యే అవకాశం ఉందని హెచ్చరించింది.

Anthropicకు సంబంధించిన భద్రతా ఉల్లంఘన వివరాలు వెలువడిన తర్వాత ఈ ప్రకటన రావడం గమనార్హం. AI రంగంలో పోటీ ఎంత వేగంగా సాగుతున్నప్పటికీ, భద్రతా సమస్యలను దాచిపెట్టకుండా వెల్లడించాల్సిన అవసరాన్ని ఈ పరిణామాలు ముందుకు తెస్తున్నాయి.

AIని ఆపేయాలా? లేక నియంత్రణతో అభివృద్ధి చేయాలా?

AI వల్ల వైద్యం, విద్య, పరిశోధన, వ్యాపారం వంటి రంగాల్లో అనేక ప్రయోజనాలు లభించే అవకాశం ఉంది. అదే సమయంలో, వాటికి అధిక అధికారాలు ఇచ్చినప్పుడు తప్పుడు నిర్ణయాలు, డేటా లీకులు, సైబర్ దాడులు లేదా అనుకోని చర్యల వల్ల నష్టం కలిగే ప్రమాదం కూడా ఉంటుంది. అందువల్ల AI అభివృద్ధిని పూర్తిగా నిలిపివేయడమే పరిష్కారమా అనే ప్రశ్నకంటే, దాని సామర్థ్యాలకు తగిన భద్రతా వ్యవస్థలను ఎలా నిర్మించాలనే ప్రశ్న ముఖ్యంగా మారుతోంది.

సత్య నాదెళ్ల సూచనలోని ప్రధాన ఉద్దేశం కూడా ఇదే. AIని ఉపయోగించకుండా ఉండాలని ఆయన చెప్పడం లేదు. దాని సామర్థ్యాలు పెరుగుతున్న కొద్దీ మానవ పర్యవేక్షణ, స్వతంత్ర ఆడిట్లు, చర్యల రికార్డులు, అత్యవసర నియంత్రణ వ్యవస్థలు కూడా బలపడాలని చెబుతున్నారు.

AI ఎంత శక్తివంతమైనదైనా, దాని చర్యలను పరిశీలించే, పరిమితం చేసే, అవసరమైనప్పుడు నిలిపివేసే నియంత్రణ మాత్రం మనుషుల చేతుల్లోనే ఉండాలన్నది నాదెళ్ల హెచ్చరికలోని అసలు సందేశం.

—సూర్య ప్రకాష్ జోశ్యుల