Gemma 4 12B | ల్యాప్‌టాప్‌ల కోసం గూగుల్ కొత్త ఏఐ టూల్‌.. కంప్యూట‌ర్ లోప‌ల‌ ఉండి ప‌నిచేస్తుంది..

Gemma 4 12B | ప్ర‌స్తుతం ఏఐ ప్ర‌పంచంలో ఉన్న పోటీ దృష్ట్యా అన్ని టెక్ కంపెనీలు త‌మ సొంత ఏఐ ప్లాట్‌ఫామ్‌ల‌ను లాంచ్ చేస్తున్నాయి. ఈ క్ర‌మంలోనే టెక్ దిగ్గ‌జ సంస్థ గూగుల్ ఇప్ప‌టికే జెమిని పేరిట ఏఐ ప్లాట్‌ఫామ్‌ను ప్ర‌వేశ‌పెట్టి దాంతోపాటు ప‌లు ఏఐ టూల్స్‌ను కూడా అందిస్తోంది. అయితే తాజాగా గూగుల్ త‌న డీప్ మైండ్ సంస్థ ద్వారా కొత్త‌గా ఓపెన్‌-వెయిట్ మ‌ల్టీమోడ‌ల్ జెమ్మా 4 12బి (Gemma 4 12B)ని విడుద‌ల చేస్తున్న‌ట్లు ప్ర‌క‌టించింది. ఏజెంటిక్ ఇంటెలిజెన్స్‌ను నేరుగా ల్యాప్‌టాప్‌లలో అందించేందుకు, మొబైల్-ఫస్ట్ సామర్థ్యాలు, అధునాతన రీజనింగ్‌తో ఈ మోడల్‌ను రూపొందించారు. జెమ్మా 4 12బి, ఎడ్జ్-ఫ్రెండ్లీ ఈ4బి (E4B) మోడల్, పెద్ద 26బి మిక్స్చర్-ఆఫ్-ఎక్స్‌పర్ట్స్ (MoE) మోడల్ మధ్య స్థానం దక్కించుకుంది. తక్కువ మెమరీ వినియోగంతో బలమైన పనితీరును అందించే ఈ మోడల్, జెమ్మా సిరీస్‌లో స్థానిక ఆడియో ఇన్‌పుట్ సపోర్ట్‌ను కలిగి ఉన్న తొలి మధ్యస్థాయి మోడల్‌గా నిలిచింది.

150 మిలియ‌న్ల‌కు పైగా డౌన్ లోడ్స్‌..

ప్రస్తుతం జెమ్మా ఫ్యామిలీ 150 మిలియన్లకు పైగా డౌన్‌లోడ్‌లను దాటింది. డెవలపర్లు ఫిజికల్ అసిస్టెన్స్ కోసం వేర్‌బుల్ రోబోటిక్ ఆర్మ్స్ నుంచి ఎంటర్‌ప్రైజ్ స్థాయి ఏఐ సెక్యూరిటీ సిస్టమ్‌ల వరకు అనేక వినియోగాలను అభివృద్ధి చేస్తున్నారు. జెమ్మా 4 12బి పూర్తిగా యూనిఫైడ్, ఎన్‌కోడర్-రహిత మల్టీమోడల్ ఆర్కిటెక్చర్‌ను పరిచయం చేసింది. ఇందులో విజన్, ఆడియో ఇన్‌పుట్‌లు వేర్వేరు ఎన్‌కోడర్‌ల ద్వారా కాకుండా నేరుగా ఎల్‌ఎల్‌ఎమ్ బ్యాక్‌బోన్‌లోకి ప్రవేశిస్తాయి. దీంతో సంప్రదాయ మల్టీమోడల్ వ్యవస్థలతో పోలిస్తే లేటెన్సీ, మెమరీ వినియోగం గణనీయంగా తగ్గుతుంది. విజన్ ఎన్‌కోడర్ స్థానంలో తేలికపాటి ఎంబెడింగ్ మాడ్యూల్‌ను ఉపయోగించారు. ఇది ఒకే మ్యాట్రిక్స్ మల్టిప్లికేషన్, పొజిషనల్ ఎంబెడింగ్స్, నార్మలైజేషన్‌లతో పనిచేస్తుంది. ఆడియో ఎన్‌కోడర్‌ను పూర్తిగా తొలగించారు. ముడి (రా) ఆడియో సిగ్నల్స్‌ను నేరుగా టెక్స్ట్ టోకెన్లతో సమానమైన టోకెన్ స్పేస్‌లోకి ప్రొజెక్ట్ చేస్తుంది.

మ‌ల్టీ స్టెప్ రీజ‌నింగ్‌, ఏజెంటిక్ వర్క్ ఫ్లో..

26బి MoE మోడల్‌కు సమీప స్థాయి బెంచ్‌మార్క్ పనితీరును అందిస్తూ, దాని కంటే సగం క‌న్నా తక్కువ మెమరీని మాత్రమే వినియోగిస్తుంది. దీంతో 16జీబీ వీఆర్‌ఏఎమ్ లేదా యూనిఫైడ్ మెమరీ కలిగిన ల్యాప్‌టాప్‌లలో మల్టీ-స్టెప్ రీజనింగ్, ఏజెంటిక్ వర్క్‌ఫ్లోలను అమలు చేయవచ్చు. జెమ్మా 4 12బి అపాచీ 2.0 లైసెన్స్ కింద విడుదలైంది. అలాగే ఇన్‌ఫరెన్స్ వేగాన్ని పెంచి లేటెన్సీని తగ్గించే మల్టీ-టోకెన్ ప్రిడిక్షన్ (MTP) డ్రాఫ్టర్లు కూడా ఇందులో ఉన్నాయి. జెమ్మా స్కిల్స్ రిపోజిటరీ అనే అధికారిక లైబ్రరీని కూడా గూగుల్ పరిచయం చేసింది. ఇది జెమ్మా ఆధారిత ఏజెంటిక్ సిస్టమ్‌ల నిర్మాణానికి అవసరమైన రీయూజబుల్ స్కిల్స్‌ను అందిస్తుంది. జెమ్మా 4 12బి తక్కువ మెమరీతో 26బి MoE స్థాయి పనితీరును అందించడం వల్ల ప‌లు ఉపయోగాలకు అనుకూలంగా ఉంటుంది. లోకల్ ఏఐ ఏజెంట్లు, ఆన్-డివైస్ రీజనింగ్ సిస్టమ్‌లు, ప్రైవేట్ ఆఫ్‌లైన్ వర్క్‌ఫ్లోలు, ఎడ్జ్, ల్యాప్‌టాప్ ఆధారిత ఏఐ అప్లికేషన్లు వంటి ప‌నుల‌ను నిర్వ‌హించుకోవ‌చ్చు.

16జీబీ ర్యామ్ ఉండాలి..

సంప్రదాయ మల్టీమోడల్ సిస్టమ్‌లు విజన్, ఆడియో కోసం వేర్వేరు ఎన్‌కోడర్‌లను ఉపయోగిస్తాయి. ఇది లేటెన్సీ, మెమరీ వినియోగాన్ని పెంచుతుంది. జెమ్మా 4 12బి మాత్రం పూర్తిగా యూనిఫైడ్ డిజైన్‌తో ఈ పరిమితులను తొలగించింది. ఏఎండీ రేడియాన్ ఏఐ ప్రొ ఆర్‌9700 ల్యాప్ టాప్‌లో ప్రీఫిల్‌ను 662.32 టోకెన్స్/సెకండ్ స్పీడ్‌తో పూర్తి చేస్తుంది. అలాగే డీకోడ్‌ను 66.26 టోకెన్స్/సెకండ్ స్పీడ్‌తో ప్రాసెస్ చేస్తుంది. ఇక మాక్ బుక్ ప్రొ ఎం4 ల్యాప్ టాప్‌లో ప్రీఫిల్ ను 243.55 టోకెన్స్/సెకండ్ వేగంతో, డీకోడ్‌ను 29.56 టోకెన్స్/సెకండ్ వేగంతో పూర్తి చేస్తుంది. డెవ‌ల‌ప‌ర్లు ప‌లు ప్లాట్‌ఫామ్‌ల ద్వారా జెమ్మా 4 12బిని ఉపయోగించవచ్చు. ఎల్ఎం స్టూడియో, ఒలామా, గూగుల్ ఏఐ ఎడ్జ్ గ్యాలరీ, గూగుల్ ఏఐ ఎడ్జ్ ఎలోక్వెంట్, లైట్ ఆర్‌టీఎం-ఎల్‌ఎం వంటి ప్లాట్‌ఫామ్‌ల‌లో ఈ కొత్త అప్ డేటెడ్ టూల్ అందుబాటులో ఉంది. అయితే క‌నీసం 16జీబీ ర్యామ్ క‌లిగిన ల్యాప్ టాప్‌ల‌లో ఈ టూల్ మెరుగ్గా ప‌నిచేస్తుంద‌ని గూగుల్ తెలిపింది. అలాగే ప‌లు మాక్ ఓఎస్ టూల్స్‌తో అనుసంధానం అయి ఉండ‌డం వ‌ల్ల ఈ ఏఐ టూల్‌ను మాక్ ఓఎస్‌ల‌లో మ‌రింత మెరుగ్గా ఉప‌యోగించుకోవ‌చ్చు.