"Ne besojmë në mbajtjen gjallë të çuditshmërisë". Kjo shprehje vjen nga një manifest i publikuar javën e kaluar në laboratorin e Mira Muratit. Është gjithashtu mendimi pas modelit të parë të laboratorit.

Thinking Machines Lab, i themeluar nga ish-drejtori kryesor i teknologjisë i OpenAI, ka publikuar Inkling, transmeton Telegrafi.

Është me peshë të hapur, kështu që çdo zhvillues ose kompani mund ta shkarkojë modelin dhe ta riformësojë atë. Vetëm kjo e dallon atë nga modelet kryesore të shitura nga OpenAI, Anthropic dhe Google.

Inkling është i madh. Është një sistem i përzier ekspertësh me 975 miliardë parametra gjithsej, megjithëse përdor vetëm rreth 41 miliardë për çdo detyrë të caktuar.

Ai trajton një dritare konteksti deri në 1 milion tokena dhe është trajnuar në 45 trilion tokena teksti, imazhesh, audio dhe video. Ai arsyeton në tekst, imazhe dhe audio, por për momentin shkruan vetëm tekst, duke përfshirë kodin dhe të dhënat e strukturuara.

Ja ku është kthesa. Thinking Machines nuk pretendon se Inkling kryeson listat. Materialet e veta e quajnë atë "jo modeli më i fortë i disponueshëm sot, i mbyllur ose i hapur".

Laboratori po ndjek diçka tjetër: gamën dhe përshtatshmërinë. Thinking Machines Inkling është menduar të jetë një bazë e gjerë dhe e ekuilibruar që organizatat e përsosin për punën e tyre, jo një chatbot i përfunduar. Përdoruesit mund ta rrisin ose ulin "përpjekjen e tij të të menduarit" për të shkëmbyer saktësinë me shpejtësi. Në një test kodimi, thotë kompania, Inkling përputhet me Nemotron 3 Ultra të Nvidia duke përdorur një të tretën më pak token.

Laboratori gjithashtu paraqiti një model më të lehtë, Inkling-Small, me 12 miliardë parametra aktivë. Ai i përshtatet punëve ku kostoja dhe shpejtësia kanë më shumë rëndësi.

I gjithë publikimi mbështetet në një bast. IA e trajnuar në një vend dhe më pas e ngrirë, argumenton laboratori, humbet ndaj IA-së që secila organizatë mund ta formësojë rreth ekspertizës së vet.

Klientët e përsosin Inkling përmes Tinker, platformës së personalizimit të Thinking Machines, dhe ata zotërojnë rezultatin. Ata gjithashtu mbajnë rrezikun e sigurisë së çdo gjëje që ndërtojnë.

Laboratori tregon një projekt me fondin mbrojtës Bridgewater si provë. Të dy trajnuan një model të hapur mbi njohuritë financiare të Bridgewater, dhe ai shënoi 84.7% në testet e arsyetimit financiar, duke tejkaluar modelet më të mira pronësore me një kosto shumë më të ulët. Kjo shifër vjen nga vlerësimi i vetë dy kompanive, jo nga një vlerësim i pavarur.

Argumenti po fiton mbështetje. Satya Nadella i Microsoft paralajmëroi së fundmi se firmat që përdorin modele të mbyllura paguajnë dy herë, një herë në tarifa dhe një herë duke dorëzuar njohuritë e përfshira në udhëzimet e tyre. Modelet e lira me peshë të hapur, shumë nga Kina, tërheqin të njëjtën mënyrë.

Thinking Machines është e prirur të theksojë shpejtësinë e saj. OpenAI mori rreth pesë vjet për t'u dërguar dhe për të fituar, dhe Anthropic afërsisht tre, vuri në dukje TechCrunch. Laboratori i Murati thotë se e bëri këtë në rreth nëntë muaj.

Ai bëri disa hapa për të arritur atje. Për të filluar trajnimin e Inkling, laboratori u mbështet në modele të tjera të hapura, duke përfshirë Kimi K2.5 të Moonshot, një praktikë e njohur si distilim.

Modeli i tij i ardhshëm, këmbëngul ai, do të trajnohet plotësisht vetë. Inkling funksiononte në sistemet GB300 të Nvidia-s, pjesë e një marrëveshjeje në mars për një gigavat të fuqisë kompjuterike Nvidia.

Paratë dhe njerëzit kanë qenë më të paqëndrueshëm. Laboratori mblodhi 2 miliardë dollarë me një vlerësim prej 12 miliardë dollarësh vitin e kaluar, dhe një raund i raportuar prej 50 miliardë dollarësh u bllokua.

Dy bashkëthemelues u larguan më herët këtë vit, megjithëse numri i punonjësve është kthyer në rreth 200. Për momentin, Thinking Machines nuk do të kërkojë fare pagesë për Inkling. Paratë e saj vijnë nga Tinker, dhe çështja e saj mbështetet në çuditshmërinë që qëndron. /Telegrafi/

AITech