Deepfakeలకు భారత్ డెత్ వారెంట్? అదిరిపోయే ప్లాన్

“అమ్మా… చాలా అర్జెంట్. నేను మాట్లాడుతున్నాను. వెంటనే రెండు లక్షలు పంపు!”

ఫోన్‌లో వినిపిస్తున్న గొంతు… మీ కొడుకుదే. ఆ తల్లి ఒక్క క్షణం కూడా ఆలస్యం చేయలేదు. కొడుకు ఏదో పెద్ద ప్రమాదంలో చిక్కుకున్నాడనుకుని అప్పు చేసి అయినా డబ్బు చెప్పిన ఖాతాలో జమ చేసింది. కొద్ది సేపటికే అసలు నిజం బయటపడింది. ఆ కాల్ చేసింది తన కొడుకు కాదు. తన కొడుకులా మాట్లాడటం నేర్చుకున్న AI.

ఇది కల్పిత కథ కాదు. ప్రపంచవ్యాప్తంగా వేగంగా పెరుగుతున్న వాయిస్ డీప్‌ఫేక్ మోసాల్లో ఇదొక సాధారణ పద్ధతి.

మోసగాళ్ల టార్గెట్… మీ గుర్తింపు

ఒకరోజు ఉదయం లేచేసరికి మీ పేరుతో సోషల్ మీడియాలో ఒక నకిలీ వీడియో వైరల్ కావచ్చు. మీరు చెప్పని మాటలు చెప్పినట్లు, చేయని పనులు చేసినట్లు చూపించే వీడియో క్షణాల్లో లక్షల మందికి చేరవచ్చు.

ఇప్పటివరకు దొంగలు మన డబ్బు, బ్యాంక్ ఖాతాలు, పాస్‌వర్డ్‌లను టార్గెట్ చేసేవారు. ఇప్పుడు పరిస్థితి మారింది. మీ ముఖం, మీ గొంతు, మీ గుర్తింపే వారి లక్ష్యంగా మారింది. సోషల్ మీడియాలో మనమే షేర్ చేసే ఫోటోలు, వీడియోలు, ఆడియో క్లిప్‌లను ఉపయోగించి ఇలాంటి డీప్‌ఫేక్‌లు తయారయ్యే అవకాశం ఉందని సైబర్ నిపుణులు హెచ్చరిస్తున్నారు.

ఒకప్పుడు “కళ్లతో చూసింది నిజం… చెవులతో విన్నది నిజం” అనుకునేవాళ్లం. ఇప్పుడు వీడియో చూసినా నిజమో కాదో చెప్పలేం. ఫోన్‌లో సొంత మనిషి గొంతు వినిపించినా వెంటనే నమ్మలేం. AI యుగంలో నమ్మకమే అతిపెద్ద బాధితుడిగా మారుతోంది.

వజ్రాన్ని వజ్రంతోనే… AIకి AIతోనే చెక్

ఈ పరిస్థితిని ఎదుర్కోవడానికి భారత్ కొత్త వ్యూహాన్ని ఎంచుకుంది. “వజ్రాన్ని వజ్రంతోనే కోయాలి” అన్నట్లు… AIతో చేసే మోసాలను అడ్డుకోవడానికి AIనే ఆయుధంగా మార్చాలని కేంద్ర ప్రభుత్వం నిర్ణయించింది.

డీప్‌ఫేక్‌లను గుర్తించి అడ్డుకునేందుకు 13 “రెస్పాన్సిబుల్ AI” ప్రాజెక్టులకు ఆమోదం తెలిపింది. అంటే ఇకపై మనిషిలా నటించే AIని పట్టుకోవడానికి మరో AI రంగంలోకి దిగబోతోంది.

36 గంటలు కాదు… ఇక మూడు గంటలే!

కేంద్ర ప్రభుత్వం తీసుకున్న మరో కీలక నిర్ణయం సమయానికి సంబంధించినది. ఇన్నాళ్లూ ప్రభుత్వం లేదా కోర్టు నుంచి ఆదేశం వచ్చిన తర్వాత అక్రమ AI కంటెంట్‌ను తొలగించడానికి సోషల్ మీడియా సంస్థలకు 36 గంటల గడువు ఉండేది. అప్పటికే ఆ వీడియో లక్షల మందికి చేరి బాధితుడికి కోలుకోలేని నష్టం జరిగే అవకాశం ఉండేది.

ఇప్పుడు ఆ గడువును భారీగా తగ్గించారు.

కొత్త ఐటీ నిబంధనల ప్రకారం, ప్రభుత్వ లేదా కోర్టు ఆదేశం అందిన తర్వాత మూడు గంటల్లోపు అక్రమ AI-సృష్టి కంటెంట్‌ను తొలగించాల్సి ఉంటుంది. అంటే… నకిలీ వీడియో వైరల్ అయినా, అది ఎక్కువసేపు సోషల్ మీడియాలో ఉండకుండా అడ్డుకోవాలన్నదే కేంద్రం లక్ష్యం.

మనిషిలా నటించే AIని వెంబడించే కొత్త AI

ఈ 13 ప్రాజెక్టుల్లో కొన్ని ప్రత్యేకంగా ఆకర్షిస్తున్నాయి.

IIT ఖరగ్‌పూర్ అభివృద్ధి చేస్తున్న రియల్-టైమ్ వాయిస్ డిటెక్షన్ వ్యవస్థ, లైవ్ సంభాషణల్లో AIతో రూపొందించిన గొంతులను గుర్తించే లక్ష్యంతో పనిచేస్తోంది.

IIT జోధ్‌పూర్ మరియు IIT మద్రాస్ సంయుక్తంగా రూపొందిస్తున్న “సాక్ష్య” వ్యవస్థ వీడియోలు, ఆడియోల్లో జరిగిన మార్పులను విశ్లేషించి డీప్‌ఫేక్‌లను గుర్తించేందుకు రూపొందుతోంది.

AI విశ్లేషక్ ప్రాజెక్ట్ ఆడియో, వీడియో ఫోర్జరీలను గుర్తించే సాంకేతికతను అభివృద్ధి చేస్తోంది.

ఒక్క మాటలో చెప్పాలంటే…

ఇప్పటివరకు AI నేరస్థుల చేతిలో ఆయుధంగా మారింది. ఇప్పుడు అదే AIని సమాజాన్ని కాపాడే ఆయుధంగా మార్చే ప్రయత్నం చేస్తోంది భారత్.

సోషల్ మీడియా కంపెనీలదే బాధ్యత

కొత్త ఐటీ నిబంధనల ప్రకారం సోషల్ మీడియా సంస్థలు AI-సృష్టి కంటెంట్‌ను గుర్తించడం, అవసరమైన చోట లేబుళ్లు ఉపయోగించడం, మెటాడేటాను భద్రపరచడం, అక్రమ సింథటిక్ కంటెంట్ వ్యాప్తిని అడ్డుకునే వ్యవస్థలను ఏర్పాటు చేయాల్సి ఉంటుంది. అంటే డీప్‌ఫేక్‌లను నియంత్రించే బాధ్యత ఇక ప్రభుత్వానిదే కాదు… సోషల్ మీడియా సంస్థలదీ.

సుప్రీంకోర్టు కూడా ఎందుకు సీరియస్ అయింది?

డిజిటల్ అరెస్ట్ స్కామ్‌లు, డీప్‌ఫేక్‌ల పెరుగుతున్న ముప్పుపై సుప్రీంకోర్టు ఇప్పటికే ఆందోళన వ్యక్తం చేసింది. ఈ నేపథ్యంలో డీప్‌ఫేక్‌లు, డిజిటల్ అరెస్ట్‌లను ప్రత్యేక నేరాలుగా గుర్తించే చట్టాన్ని తీసుకురావాలని కేంద్ర ప్రభుత్వం పరిశీలిస్తోంది. నేరస్థుల ఆస్తులను స్తంభింపజేసే నిబంధనలు కూడా ప్రతిపాదనల్లో ఉన్నాయి.

డీప్‌ఫేక్ మోసాల నుంచి ఎలా జాగ్రత్తపడాలి?

బంధువుల పేరుతో అత్యవసరంగా డబ్బులు అడిగితే వెంటనే పంపకండి. వారికి మరో నంబర్‌కు కాల్ చేసి నిజానిజాలు తెలుసుకోండి.

సోషల్ మీడియాలో వైరల్ అవుతున్న వీడియోలను గుడ్డిగా నమ్మకండి. విశ్వసనీయ వనరుల్లో ఒకసారి పరిశీలించండి.

మీ ఫోటోలు లేదా వీడియోలను దుర్వినియోగం చేస్తే వెంటనే సంబంధిత సోషల్ మీడియా వేదికలో రిపోర్ట్ చేయండి. అవసరమైతే జాతీయ సైబర్ క్రైమ్ పోర్టల్‌లో ఫిర్యాదు చేయండి.

చివరిగా…

ఒకప్పుడు దొంగలు మన డబ్బును దొంగిలించేవారు. ఇప్పుడు…మన గుర్తింపునే దొంగిలిస్తున్నారు. AI ఎంత వేగంగా అభివృద్ధి చెందుతుందో, దాన్ని ఎదుర్కొనే టెక్నాలజీ కూడా అంతే వేగంగా అభివృద్ధి చెందాల్సిన అవసరం ఉందని భారత్ చెబుతోంది.

అందుకే ఇప్పుడు కేవలం నేరస్థుడిని వెతకడం కాదు… మనిషిలా నటించే AIని గుర్తించేందుకు AIనే ఆయుధంగా రంగంలోకి దింపుతోంది. డీప్‌ఫేక్‌లపై ఈ పోరాటం కేవలం టెక్నాలజీ గురించినది కాదు… ప్రతి పౌరుడి గుర్తింపును కాపాడే పోరాటం.