AIకి ఇవి తెలిస్తే ప్రపంచానికే ముప్పు..! అందుకే తీసేస్తున్నారట!

—సూర్య ప్రకాష్ జోశ్యుల

ఒక కొత్త వైరస్ ప్రపంచాన్ని వణికిస్తోంది అనుకోండి.

శాస్త్రవేత్తలు రాత్రింబవళ్లు శ్రమించి దానికి మందు కనిపెట్టేందుకు ప్రయత్నిస్తున్నారు. అదే సమయంలో… మరో వ్యక్తి AI ముందు కూర్చుని, అదే వైరస్ గురించి మరింత ప్రమాదకరమైన సమాచారాన్ని వెతుకుతున్నాడు.

ఇక్కడ ఇద్దరూ అడుగుతున్నది ఒకే సమాచారం. కానీ, ఒకరి చేతిలో అది ప్రాణాలను కాపాడే జ్ఞానం… మరొకరి చేతిలో అది ప్రాణాలు తీసే ఆయుధం!

కత్తి ఒక డాక్టర్ చేతిలో ఉంటే ప్రాణం కాపాడుతుంది, అదే కత్తి ఒక నేరస్థుడి చేతిలో ఉంటే ప్రాణం తీస్తుంది. సమాచారం కూడా అంతే. ఒకే AI జ్ఞానం… ఒక శాస్త్రవేత్త చేతిలో మందుగా మారొచ్చు, అదే జ్ఞానం ఒక దురుద్దేశంతో ఉన్న వ్యక్తి చేతిలో మహా ప్రమాదంగా మారొచ్చు. ఇక్కడే AI ప్రపంచం ఎదుర్కొంటున్న అతిపెద్ద సమస్య మొదలవుతోంది. అందుకే ఇప్పుడు AIకి కొన్ని విషయాలు నేర్పడం మాత్రమే కాదు… అవసరమైతే వాటిని ‘మర్చిపోయేలా’ చేసే టెక్నాలజీపై ప్రపంచవ్యాప్తంగా పరిశోధనలు జరుగుతున్నాయి.

‘డిలీట్’ సర్జరీ.. ఎలా సాధ్యం?

సాధారణంగా AI నేర్చుకున్న ఒక చెడు విషయాన్ని తొలగించాలంటే.. మొత్తం AI మోడల్‌ని మొదటి నుండి మళ్లీ తయారు చేయాల్సి వచ్చేది. దీనికి కోట్ల రూపాయల ఖర్చు, నెలల సమయం పడుతుంది. కానీ ఇప్పుడు ఆ అవసరం లేకుండా, ప్రమాదకరమైన సమాచారాన్ని విడిగా ఉంచి, అవసరమైతే తొలగించే ప్రయోగాత్మక పద్ధతిని ‘ఆంత్రోపిక్’ (Anthropic) పరిశోధకులు అభివృద్ధి చేశారు.

దీనికోసం వారు ‘గ్రామ్’ (GRAM) అనే ఒక ప్రత్యేకమైన శిక్షణ పద్ధతిని డెవలప్ చేశారు. ఇది ఎలాంటిదంటే.. మొత్తం కంప్యూటర్ ఫార్మాట్ చేయకుండా కేవలం ఒక ఫోల్డర్ మాత్రమే డిలీట్ చేయడం లాంటిది! లేదా మొత్తం లైబ్రరీని తగలబెట్టేయకుండా, అందులోని ఒకే ఒక్క ప్రమాదకరమైన పుస్తకాన్ని మాత్రమే వెతికి పట్టుకుని తీసేయడం లాంటిది.

వైరాలజీ ఉదాహరణతో ‘డ్యూయల్-యూజ్’ చిక్కుముడి

అసలు ఈ టెక్నాలజీ అవసరం ఎందుకు వచ్చిందో చెప్పడానికి ‘వైరాలజీ’ (వైరస్‌లపై శాస్త్రం) ఒక అద్భుతమైన ఉదాహరణ. వైరాలజీ అనేది వైద్య పరిశోధనలకు, ప్రాణాలు కాపాడే వ్యాక్సిన్ల తయారీకి ఎంతో ఉపయోగపడుతుంది. కానీ, అదే సమాచారాన్ని ఎవరైనా దుర్వినియోగం చేస్తే ప్రమాదకర వైరస్‌ల తయారీకి కూడా ఉపయోగపడే అవకాశం ఉంది.

ఇలా మంచికి, చెడుకి.. రెండింటికీ వాడగలిగే ‘డ్యూయల్-యూజ్’ సమాచారాన్నే ఈ కొత్త టెక్నాలజీ టార్గెట్ చేస్తుంది. AIకి ట్రైనింగ్ ఇచ్చేటప్పుడే ఇలాంటి సున్నితమైన సమాచారాన్ని విడిగా కొన్ని ‘ప్రత్యేకమైన బాక్సుల్లో’ (Neural Modules) ఉంచుతారు. అవసరమైనప్పుడు ఆ ఒక్క బాక్స్‌ను డిలీట్ చేస్తారు.

వావ్ మూమెంట్!

అత్యంత ఆసక్తికరమైన విషయం ఏమిటంటే… ప్రమాదకరమైన సమాచారాన్ని తీసేసిన తర్వాత కూడా AI మిగతా విషయాల్లో దాదాపు అదే సామర్థ్యంతో పనిచేసింది! 5 బిలియన్ పారామీటర్ల సైజ్ ఉన్న ఒక పెద్ద AI మోడల్‌పై పరీక్షించగా.. ఆ డేటాపై అసలు AIకి ఎప్పుడూ ట్రైనింగే ఇవ్వనంత పక్కాగా ఆ సమాచారం తుడిచిపెట్టుకుపోయింది, కానీ దాని ఓవరాల్ తెలివితేటలు మాత్రం అస్సలు తగ్గలేదు.

Quick FAQ

GRAM అంటే ఏమిటి?
AIలోని సున్నితమైన సమాచారాన్ని విడిగా ఉంచే ఒక సరికొత్త శిక్షణ పద్ధతి.

ఇది ఎందుకు వచ్చింది?
ప్రమాదకరమైన జ్ఞానాన్ని తొలగించి AIని మరింత సురక్షితంగా మార్చడానికి.

దీని వల్ల AI పనితీరు తగ్గుతుందా?
ప్రస్తుతం జరిగిన పరీక్షల్లో AI సామర్థ్యంలో ఎలాంటి గణనీయమైన తగ్గుదల కనిపించలేదని పరిశోధకులు చెబుతున్నారు.

ఈ టెక్నాలజీ వల్ల లాభాలు (Benefits)

ప్రమాదకరమైన సమాచారం తప్పుడు చేతుల్లోకి వెళ్లి దుర్వినియోగం అయ్యే అవకాశం తగ్గుతుంది.భవిష్యత్తు అవసరాలకు తగ్గట్టు AI భద్రతను (AI Safety) సులభంగా మెరుగుపరచవచ్చు. చిన్న మార్పు కోసం మొత్తం మోడల్‌ను మళ్లీ కోట్లాది రూపాయలు పెట్టి ట్రెయిన్ చేయాల్సిన అవసరం తప్పుతుంది. ప్రభుత్వాలు విధించే AI నియంత్రణ (Regulation) నిబంధనలను కంపెనీలు సులభంగా అమలు చేయవచ్చు.

అసలు ట్విస్ట్: ఏది ప్రమాదకరమో ఎవరు నిర్ణయిస్తారు?

ఈ టెక్నాలజీని ప్రపంచవ్యాప్తంగా ప్రశంసిస్తున్నవారితో పాటు ఒక బలమైన ప్రశ్న కూడా వినిపిస్తోంది. ‘ప్రమాదకరమైన సమాచారం’ అంటే అసలు ఎవరు నిర్ణయిస్తారు? శాస్త్రీయంగా హానికరమైన విషయాలేనా… లేక భవిష్యత్తులో ప్రభుత్వాలు లేదా కంపెనీలు తమకు నచ్చని సమాచారాన్ని కూడా తొలగించే అవకాశం ఉందా? ఇదే ఇప్పుడు AI ప్రపంచంలో నడుస్తున్న పెద్ద డిబేట్.

అయితే, ఈ పరిశోధన ఇంకా ప్రారంభ దశలోనే ఉందని, పెద్ద పెద్ద లాంగ్వేజ్ మోడళ్లలో ఇది విస్తృతంగా అందుబాటులోకి రావడానికి ఇంకా కొంత సమయం పడుతుందని నిపుణులు స్పష్టం చేస్తున్నారు. భవిష్యత్తులో ChatGPT, Gemini వంటి ఇతర AI వ్యవస్థల్లో కూడా ఇలాంటి భద్రతా పద్ధతులు కనిపించే అవకాశం ఉందని భావిస్తున్నప్పటికీ, ప్రస్తుతానికి దీనిపై ఎలాంటి అధికారిక ప్రకటనలు లేవు.

ఏదైమైనా:

ఇప్పటివరకు ప్రపంచం ముందున్న ప్రశ్న ‘AI ఎంత నేర్చుకుంటుంది?’ అనేది. కానీ ఇకపై రాబోయే రోజుల్లో అసలైన ప్రశ్న ‘AIకి ఏం నేర్పాలి… ఏం మర్చిపోయాలో చేయాలి?’ అనేదిగా మారే అవకాశం ఉంది.