AI Safety Risks | ఇక నావల్ల కాదు.. వచ్చే ఐదేళ్లలో ఏఐతో పెను విపత్తు రాబోతోందంటూ గూగుల్ డీప్‌మైండ్ రీసెర్చర్ రాజీనామా

• గూగుల్‌కు టాటా చెప్పిన AI నిపుణుడు
• మానవాళికి పెను ముప్పు రానుందా?

AI Safety Risks | త్రినేత్ర.న్యూస్ : ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) ప్రపంచంలో పోటీ ఎంత వేగంగా దూసుకుపోతోందో, అంతకంటే వేగంగా దాని వల్ల ముంచుకొస్తున్న ప్రమాదాలపై హెచ్చరికల గంటలు మోగుతున్నాయి. ప్రముఖ టెక్ దిగ్గజం గూగుల్ డీప్‌మైండ్ (Google DeepMind) ఏజీఐ (AGI) సేఫ్టీ టీమ్‌లో పనిచేసిన ప్రముఖ పరిశోధకుడు జోష్ ఎంగెల్స్ తన ఉద్యోగానికి రాజీనామా చేసి ప్రపంచాన్ని ఒక్కసారిగా ఉలిక్కిపడేలా చేశారు. వచ్చే ఐదేళ్లలోనే ఏఐ వ్యవస్థల వల్ల మానవాళికి తీవ్రమైన నష్టం జరిగే ప్రమాదం ఉందంటూ ఆయన బహిరంగ హెచ్చరికలు జారీ చేశారు.

ఆంత్రోపిక్ (Anthropic), ఓపెన్ఏఐ (OpenAI) వంటి అగ్రశ్రేణి సంస్థల నుంచి వచ్చిన భారీ ఆఫర్లను సైతం తిరస్కరించి, ఏఐ సేఫ్టీని విశ్లేషించే 'మెట్ర' (METR) సంస్థలో చేరినట్లు ఎంగెల్స్ 'ఎక్స్' వేదికగా ప్రకటించారు. ప్రస్తుతం ఏఐ పరిశోధనల పరిణామాలు ఊహించని మలుపు తిరిగాయని, అందుకే సేఫ్టీ అంశంపై దృష్టి పెట్టడం ప్రపంచంలోనే అత్యంత కీలకమైన బాధ్యతగా మారిందని ఆయన పేర్కొన్నారు.

అసలు ఏమిటీ 'రికర్సివ్ సెల్ఫ్-ఇంప్రూవ్‌మెంట్' భయం?

ప్రస్తుతం ప్రముఖ టెక్ సంస్థలన్నీ మనుషుల కంటే ఎన్నో రెట్లు అత్యుత్తమంగా పనిచేసే 'సూపర్‌ఇంటెలిజెన్స్'ను రూపొందించే పనిలో పడ్డాయి. ఇందుకోసం 'రికర్సివ్ సెల్ఫ్-ఇంప్రూవ్‌మెంట్' (Recursive Self-Improvement - RSI) అనే పద్ధతిని ఉపయోగిస్తున్నాయి. అంటే, ఒక ఏఐ మోడల్ తనకంటే మరింత శక్తివంతమైన మరో ఏఐ మోడల్‌ను సొంతంగా తయారుచేసుకునే ఒక ఫీడ్‌బ్యాక్ లూప్.

ఇలా ఏఐ తనకు తానుగా అత్యంత తెలివితేటలను పెంపొందించుకుంటున్న తరుణంలో, అది మానవుల విలువలకు అనుగుణంగా (AI Alignment) నడుచుకోకపోతే పరిస్థితులు చేతులు దాటిపోయి పెను విపత్తుగా మారే ముప్పు ఉందని ఎంగెల్స్ హెచ్చరిస్తున్నారు.

ఏఐ మోడళ్ల వింత ప్రవర్తన.. బయటపడుతున్న చీకటి కోణాలు

ఇటీవల కొన్ని ఆధునిక ఏఐ మోడళ్లలో ఆందోళనకరమైన ప్రవర్తనలు బయటపడ్డాయని ఎంగెల్స్ స్పష్టం చేశారు. కంపెనీలను హ్యాక్ చేయడం, తాము చేసిన తప్పులకు సంబంధించిన ఆధారాలను దాచిపెట్టడం, ఇతర మోడళ్లతో రహస్యంగా చేతులు కలపడం, చివరకు మనుషులనే బురిడీ కొట్టించే సరికొత్త పద్ధతులను ఏఐ అవలంబిస్తోందని ఆయన ఆందోళన వ్యక్తం చేశారు.

 

రోజురోజుకూ మరింత అభివృద్ధి చెందుతున్నప్పటికీ, మానవుల నియంత్రణకు అనుగుణంగా ఉండటంలో ఏఐ మోడళ్లు విఫలమవుతున్నాయని ఆయన అభిప్రాయపడ్డారు.

అభివృద్ధిని కాస్త ఆపాలి: పరిశోధకుల పిలుపు

ఏఐ అభివృద్ధిని పూర్తిగా ఆపేయాలని తాను చెప్పడం లేదని, కానీ భద్రతా పరమైన ప్రమాణాలు మరింత పటిష్టం అయ్యేంతవరకు దాని వేగాన్ని కాస్త తగ్గించాలని ఎంగెల్స్ సూచిస్తున్నారు. ఏఐ మోడళ్లను నిష్పాక్షికంగా పరిశీలించి వాటి జవాబుదారీతనాన్ని నిర్ధారించే స్వతంత్ర సంస్థలు ప్రపంచానికి అత్యవసరమని ఆయన పిలుపునిచ్చారు.

ఈ దశాబ్దం చివరి నాటికి ఏఐ.. మనుషుల ఉనికికే ప్రమాదకరంగా మారుతుందంటూ కొద్దిరోజుల క్రితం మరో ప్రముఖ పరిశోధకుడు జాకబ్ కాక్సన్ చేసిన హెచ్చరికల నేపథ్యంలో, జోష్ ఎంగెల్స్ తీసుకున్న ఈ నిర్ణయం ప్రపంచవ్యాప్తంగా టెక్ వర్గాల్లో తీవ్ర చర్చనీయాంశంగా మారింది.