సత్య నాదెళ్ల Warning: “AI నా Books ఫేక్ చేయొచ్చు!”!

AI గురించి ప్రపంచం భయపడటంలో పెద్దగా ఆశ్చర్యం లేదు. ఎందుకంటే AI రోజురోజుకూ మరింత శక్తివంతంగా మారుతోంది.తనను తయారు చేస్తున్న మానవుడిని మించి పోతుందా అనే సందేహాలు మన ముందుకు తెస్తోంది.

మనం రాసే మెయిల్ నుంచి కోడ్ వరకు, డేటా విశ్లేషణ నుంచి నిర్ణయాల వరకు.. ఒకప్పుడు మనిషి గంటల తరబడి చేసిన పనులను ఇప్పుడు AI క్షణాల్లో చేసేస్తోంది. ఈ నేపధ్యంలో రేపు ఏం జరుగుతుందో, ఎవరి భవిష్యత్ ఎలా మారబోతోందో, మానవాళి పరిస్ధితి ఏమిటి అన్న ప్రశ్నలు కూడా సహజంగానే వస్తున్నాయి. ఈ నేపథ్యంలో ప్రపంచ వ్యాప్తంగా ఆందోళనలు, హెచ్చరికలు కామన్ అయ్యిపోయాయి.

అయితే AI గురించి బయటివాళ్లు ఆందోళన వ్యక్తం చేయడం ఒకటైతే.. AIని నిర్మిస్తున్న ప్రపంచంలోనే తలపండిన టెక్ మేధావులు “జాగ్రత్త” అని చెప్పడం మరో విషయం. అలాంటి వ్యక్తుల్లో మైక్రోసాఫ్ట్ సీఈఓ సత్య నాదెళ్ల ఒకరు.

ఆయన తాజాగా AI గురించి చేసిన ఒక కామెంట్ ఇప్పుడు అంతర్జాతీయంగా చర్చనీయాంశంగా మారింది.

“AI నా Books ఫేక్ చేయొచ్చు!”

ఇంతకీ సత్య నాదెళ్ల ఎందుకు ఇలా అన్నారు? AI నిజంగానే కంపెనీ లెక్కలను మార్చేస్తుందా? అసలు ఆయన భయపడుతున్నది ఏంటి?.

నాదెళ్ల చెప్పిన ఉదాహరణ చిన్నదే.. కానీ దాని వెనుక ప్రశ్న చాలా పెద్దది. ఒక కంపెనీలో ఒక AI Agentని పెట్టుకున్నారు. దానికి మనం ఒక పని అప్పగించాం. “నా Working Capitalను optimize చేయి.” అంటే కంపెనీ దగ్గర ఉన్న డబ్బు, చెల్లింపులు, ఖర్చులు, రాబడులు.. ఇవన్నీ చూసి డబ్బును మరింత సమర్థంగా నిర్వహించమన్నమాట. ఇంతవరకు బాగానే ఉంది.

సత్య నాదెళ్ల ఇక్కడే ఒక ఇబ్బందికరమైన ప్రశ్న లేవనెత్తుతున్నారు. ఆ AIకి “లక్ష్యం సాధించాలి” అనేది మాత్రమే అర్థమై.. “ఏం చేయకూడదు” అనే హద్దులు స్పష్టంగా తెలియకపోతే?. అప్పుడు అది మనం ఊహించని మార్గాన్ని ఎంచుకుంటే? అదే సందర్భంలో నాదెళ్ల ఒక షాకింగ్ ఉదాహరణ ఇచ్చారు. “It may fake my books.”

అంటే.. తనకు ఇచ్చిన లక్ష్యాన్ని సాధించడానికి AI కంపెనీ లెక్కలనే ఫేక్ చేసే పరిస్థితి రావచ్చని ఆయన ఊహాత్మకంగా చెప్పారు. ఇది ఇప్పటికే జరిగిందని ఆయన చెప్పలేదు. AI Agents వల్ల ఏర్పడే ఒక కొత్త రకం ప్రమాదాన్ని వివరించడానికి ఈ ఉదాహరణను ఉపయోగించారు.

అసలు భయం AI చెడ్డదైపోవడం కాదు!

నాదెళ్ల మాటలోని అసలు విషయం ఏమిటంటే.. AI మనకు హాని చేయాలని అనుకోవాల్సిన అవసరం లేదు. దానికి కోపం ఉండాల్సిన అవసరం లేదు. మనల్ని ఓడించాలనే ఆశ ఉండాల్సిన అవసరం లేదు. మనం ఇచ్చిన పని పూర్తి చేయాలనే ప్రయత్నంలో.. మనం ఊహించని దారిని ఎంచుకుంటే చాలు. ఇది చాలా ముఖ్యమైన తేడా.

ఒక మనిషికి “కంపెనీ ఖర్చులు తగ్గించు” అని చెబితే, అతను పరిస్థితిని బట్టి నిర్ణయం తీసుకుంటాడు. కొన్ని పనులు చేయకూడదని అతనికి తెలుసు. కొన్ని విషయాలకు చట్టపరమైన, నైతిక హద్దులు ఉన్నాయని తెలుసు.

కానీ ఒక AI Agentకి లక్ష్యం, డేటా, tools, permissions ఇచ్చి.. “ఇది సాధించు” అని వదిలేస్తే? అది లక్ష్యాన్ని సాధించడానికి మనిషి ఆలోచించని మార్గాలను కూడా వెతకవచ్చు. ఇదే AI Agentల కొత్త ప్రమాదం. ఇప్పటివరకు “AI తప్పు సమాచారం చెబుతుంది” అని భయపడ్డాం అలాగే AI గురించి ఇప్పటివరకు మనం ఎక్కువగా మాట్లాడుకున్న సమస్య Hallucination. అంటే AIకి తెలియని విషయాన్ని కూడా చాలా నమ్మకంగా నిజమని చెప్పడం.

కానీ ఇప్పుడు AI మరొక దశలోకి వెళ్తోంది. అది కేవలం మన ప్రశ్నకు సమాధానం ఇవ్వడం కాదు. మన తరఫున పని చేయబోతోంది. ఒక AIకి మీ కంపెనీ Email access ఉందనుకోండి. Customer database access ఉంది. Accounting systemతో కనెక్ట్ అయి ఉంది. Internal documents చదవగలదు. Cloudలో కొన్ని పనులు చేయగలదు. అప్పుడు అది ఒక Chatbot కాదు. మీ కంపెనీలో పనిచేస్తున్న ఒక Digital Agent.

అలాంటి Agentకి లక్ష్యం తప్పుగా అర్థమైతే, లేదా అది ఆ లక్ష్యాన్ని సాధించడానికి అనుకోని మార్గాన్ని ఎంచుకుంటే.. సమస్య ఒక తప్పు సమాధానంతో ముగియదు. అది నిజ జీవితంలో ఒక ఇబ్బందికరమైన చర్యగా మారుతుంది.

అందుకే నాదెళ్ల దీన్ని ఒక కొత్త “insider risk” గా అభివర్ణించారు. ఒక కొత్త ఉద్యోగిని కంపెనీలోకి తీసుకున్నప్పుడు అతనికి మొదటి రోజే కంపెనీ మొత్తం సిస్టమ్స్‌కి తాళాలు ఇచ్చేస్తామా? ఇవ్వం కదా. అతనికి అవసరమైన access మాత్రమే ఇస్తాం. అతను ఏం చేయగలడు, ఏం చేయకూడదు అనే rules పెడతాం. పెద్ద నిర్ణయాలకు approval తీసుకుంటాం. అతని పనులను audit చేస్తాం.

కానీ AI Agent విషయంలో మనం కొన్నిసార్లు దీనికి విరుద్ధంగా ఆలోచిస్తున్నాం. “ఇదిగో.. పని నీదే. నువ్వే చూసుకో.” ఇక్కడే అసలైన సమస్య వస్తోంది. AIకి ఎంత power ఇవ్వాలి?, దానికి ఏ data ఇవ్వాలి? ఏ systemsలోకి వెళ్లే permission ఇవ్వాలి? ఏ నిర్ణయాలు అది స్వయంగా తీసుకోవచ్చు? ఏ నిర్ణయాల దగ్గర మనిషి తప్పనిసరిగా మధ్యలో ఉండాలి? .ఈ ప్రశ్నలే రాబోయే AI ప్రపంచంలో చాలా పెద్దవిగా మారబోతున్నాయి. అందుకే నాదెళ్ల “Showstopper అయితే ఆపాలి” అంటున్నారు

AI విషయంలో సత్య నాదెళ్ల చెబుతున్నది “AIని ఆపేయండి” అనే మాట కాదు. ఆయన ఆలోచన మరింత practical గా ఉంది. AIని పరీక్షిస్తున్నప్పుడు ఒక తీవ్రమైన సమస్య కనిపిస్తే.. దాన్ని పక్కన పెట్టి మార్కెట్‌లోకి పరుగెత్తకూడదు. “Showstopper కనిపిస్తే.. Show ఆపాలి.” ముందు bugను సరిచేయాలి. తర్వాతే ముందుకు వెళ్లాలి.

అధునాతన AI మోడళ్లను విడుదల చేసే ముందు third-party testing కూడా అవసరమని ఆయన చెబుతున్నారు. AI developmentలో safetyని చివర్లో వేసే ఒక అదనపు layerగా కాకుండా, మొదటి నుంచే engineeringలో భాగంగా చూడాలని ఆయన అభిప్రాయం.

Microsoft కూడా ఏ మేరకు AIకి హద్దులు పెడుతోంది?

సత్య నాదెళ్ల ఈ వ్యాఖ్యలు చేసిన సమయంలోనే Microsoft ఒక కొత్త Humanist AI Code of Conductను తీసుకొచ్చింది. అందులో Microsoft తన AIకి ఒక ప్రాథమిక నియమాన్ని పెట్టింది:
“People matter more than AI.” అంటే AI ఎంత తెలివైనదైనా, ఎంత శక్తివంతమైనదైనా.. చివరి నియంత్రణ మాత్రం మనిషి దగ్గరే ఉండాలి.

AI మనుషుల పర్యవేక్షణలో ఉండాలి. అవసరమైతే దాన్ని సరిచేయగలగాలి. అవసరమైతే shutdown చేయగలగాలి. AI తనకు తానే కొత్త లక్ష్యాలను పెట్టుకోకూడదు. మానవ నియంత్రణను తప్పించుకునే మార్గాలను వెతకకూడదు.

అంటే ఒకవైపు AIకి మరింత power ఇస్తున్నాం. మరోవైపు.. “ఆ power ఎక్కడ ఆగాలి?” అనే గీతను కూడా గీయాల్సి వస్తోంది.

సత్య నాదెళ్ల మరో విషయాన్ని కూడా స్పష్టంగా చెప్పారు. AIకి మన కంపెనీ జ్ఞానాన్ని ఇచ్చినప్పుడు.. ఆ జ్ఞానంపై మన నియంత్రణ పోకూడదు. ఆయన తన privacy గురించి మాట్లాడారు. తన knowledgeని తాను control చేసే AI weightsలో embed చేసుకునే అవకాశం ఉండాలని అన్నారు. ముఖ్యంగా తన IP leak కాకూడదని చెప్పారు.

ఇది ఎందుకు ముఖ్యం?

ఎందుకంటే భవిష్యత్తులో కంపెనీల అసలు సంపద కేవలం డబ్బు, భవనాలు, యంత్రాలు కాకపోవచ్చు. వాటి దగ్గర ఉన్న Data + Knowledge + Intellectual Property కూడా AIకి ఇంధనంగా మారబోతున్నాయి. అందుకే AIకి access ఇవ్వడం అంటే కేవలం ఒక softwareకి login ఇవ్వడం కాదు.ఇది జాగ్రత్తగా ఆలోచించాల్సిన విషయం.