Prvi rezultati testa Jalapeño kažejo vodilno hitrost in učinkovitost sklepanja umetne inteligence v industriji ↗
OpenAI je objavil prve rezultate delovanja za Jalapeño, svoj čip za sklepanje po meri. Navajajo, da je čip GPT-OSS 120B dosegel približno 1,9-krat večjo prepustnost na kilovat in približno 1,7-krat nižjo zakasnitev od konca do konca kot primerjalni sistem.
Prednosti so se prenesle tudi na DeepSeek R1 in Kimi K2.5. OpenAI načrtuje namestitev Jalapeña znotraj lastne računalniške infrastrukture, medtem ko so modeli druge in tretje generacije že v teku ... torej ja, OpenAI vse bolj postaja tudi podjetje za čipe. (OpenAI)
Claude Cowork se končno spomni, kaj si povedal aplikaciji v klepetu ↗
Anthropic je poenotil Claudov spomin v običajnem klepetu in sodelavskem delu. Informacije, pridobljene med pogovori, lahko zdaj sledijo uporabnikom v agentskih nalogah, s čimer se odpravi tisti rahlo nori ritual vedno znova razlaganja istega projekta.
Uporabniki lahko pregledujejo, urejajo in brišejo shranjene teme, medtem ko se spomini posodabljajo, medtem ko pogovori še potekajo. Funkcija je privzeto omogočena v paketih Free, Pro in Max. (TechCrunch)
Google Cloud lansira Gemini Enterprise za pravne storitve ↗
Google Cloud je predstavil namensko zasnovan paket Gemini Enterprise za odvetnike, ki je svoje agente potisnil izven okvirov generičnega klepeta na področje pregledovanja pogodb, pravnih raziskav, regulativnega spremljanja, zahtevkov za zasebnost in priprave dokumentov.
Vključuje priključke za platforme, kot so Harvey, iManage, Docusign, RelativityOne in Thomson Reuters, hkrati pa ohranja obstoječe kontrole dostopa in etične zidove podjetij. Prisvajanje zemljišč s strani agentov umetne inteligence je doseglo tudi pravni oddelek ... predvidljivo, a še vedno precej hitro. (Google Cloud Press Corner)
Google Cloud lansira Gemini Enterprise za finančne storitve ↗
Google je predstavil tudi ponudbo Gemini Enterprise, specifično za finance, vključno z upravljanim agentom za finančne raziskave, več kot 50 specializiranimi veščinami in 13 povezovalniki s finančnimi in tržnimi podatkovnimi sistemi.
Platforma je namenjena delovnim procesom, vključno z oceno kreditnega tveganja, spremljanjem portfelja, raziskavami KYC in analizo trga. Med organizacijami, ki so že vključene, sta CME Group in Deutsche Bank – poslovni agenti postajajo vse bolj specializirani, skoraj kot programska oprema v obleki. (Google Cloud Press Corner)
NVIDIA naznanja robotski računalnik Jetson Orin Nano 2, ki bo na novo opredelil umetno inteligenco na robu začetnega razreda ↗
Nvidia je predstavila Jetson Orin Nano 2, kompaktni računalnik, namenjen robotom, dronom in drugim fizičnim sistemom umetne inteligence. Ponuja 78 bilijonov operacij na sekundo, 8 GB pomnilnika in osemjedrni procesor Arm.
Nvidia pravi, da se zmogljivost sklepanja podvoji v primerjavi s prejšnjim Nano Super, medtem ko lahko doseganje te zmogljivosti zahteva 40 % manj energije. Zanimiv del je, da manjši modeli postanejo resnično zmogljivi na kompaktni strojni opremi – umetni inteligenci ni več treba vedno klicati v velikanski podatkovni center. (NVIDIA Newsroom)
Perplexity sodeluje z Nvidio pri lansiranju prenosnega računalnika, popolnoma lokalnega agenta umetne inteligence z ničelnimi stroški žetonov ↗
Perplexity je predstavil prenosni računalnik (Portable Computer), s katerim je svojo izkušnjo agentnega računalnika prenesel na lokalno strojno opremo, ki jo poganja Nvidia. Modeli, datoteke in izvajanje agentov lahko ostanejo na uporabnikovem računalniku, lokalno opravljeno delo pa ne porablja kreditov za obračunavanje v oblaku.
Naloge se začnejo lokalno in sistem pred nadaljnjim korakom v oblačni model vpraša za dovoljenje. Zažene se okoli sistemov Nvidia DGX Spark in Linux z dovolj zmogljivimi grafičnimi procesorji RTX – zasebnost in stroški nenadoma postanejo del prodajne predstavitve lokalne umetne inteligence, ne le hitrost. (Venturebeat)
Anthropic naj bi vlagateljem sporočil, da predvideva več kot 30 bilijonov dolarjev potencialnih prihodkov, poroča WSJ ↗
Anthropic naj bi vlagateljem sporočil, da bi lahko njegov skupni trg presegel 30 bilijonov dolarjev. Pomembna razlika – to je teoretična letna priložnost, če bi umetna inteligenca zajela ustrezno delo, ne pa Anthropicova napoved, da bo zaslužila 30 bilijonov dolarjev. (Reuters)
Ogromna številka pomaga uokviriti infrastrukturne izdatke podjetja Anthropic, njegovo konkurenco z OpenAI in Googlom ter širšo zgodbo vlagateljev. To je spektakularno velika številka ... celo po standardih industrije umetne inteligence. (Reuters)
Pogosta vprašanja
Kaj pomenijo rezultati čipa Jalapeño podjetja OpenAI za sklepanje umetne inteligence?
OpenAI pravi, da je Jalapeño pri uporabi GPT-OSS 120B dosegel večjo največjo prepustnost na kilovat in nižjo zakasnitev od konca do konca kot primerjalni sistem. Podobne izboljšave so bile zabeležene pri DeepSeek R1 in Kimi K2.5. Rezultati kažejo, da OpenAI vse bolj oblikuje strojno opremo glede na posebne zahteve glede učinkovitosti in hitrosti sklepanja v velikem obsegu.
Kako deluje Claudov skupni pomnilnik v klepetu in sodelavskem delu?
Claude lahko zdaj prenese informacije, pridobljene v rednih pogovorih, v naloge v sodelavcih, kar zmanjša potrebo po večkratnem pojasnjevanju istega projekta ali konteksta. Uporabniki lahko pregledujejo, urejajo in brišejo shranjene teme, medtem ko se ti spomini lahko posodabljajo, ko se pogovori razvijajo. Glede na objavo v članku je funkcija privzeto omogočena v paketih Free, Pro in Max.
Kaj lahko stori Gemini Enterprise za pravne in finančne storitve?
Specializirane ponudbe Gemini Enterprise podjetja Google Cloud so namenjene delovnim procesom, specifičnim za posamezno panogo, in ne generičnemu klepetu z umetno inteligenco. Pravni paket zajema področja, kot so pregled pogodb, raziskave, regulativni nadzor, zahteve glede zasebnosti in priprava osnutkov, medtem ko različica za finančne storitve podpira delovne procese, vključno z oceno kreditnega tveganja, spremljanjem portfelja, raziskavami KYC in analizo trga. Obe se lahko povežeta tudi z obstoječimi profesionalnimi podatkovnimi in programskimi sistemi.
Zakaj postaja lokalno sklepanje z umetno inteligenco vse pomembnejše?
Lokalno sklepanje z umetno inteligenco lahko okrepi zasebnost, zmanjša odvisnost od infrastrukture v oblaku in potencialno zniža tekoče stroške uporabe. Nvidijin Jetson Orin Nano 2 je namenjen robotom, dronom in drugim robnim sistemom, medtem ko prenosni računalnik Perplexity hrani modele, datoteke in izvajanje agentov na združljivi lokalni strojni opremi. V mnogih delovnih procesih je mogoče modele v oblaku nato rezervirati za naloge, ki zahtevajo dodatne zmogljivosti.
Kako se prenosni računalnik Perplexity odloči, kdaj bo uporabil umetno inteligenco v oblaku?
Naloge so zasnovane tako, da se začnejo na uporabnikovi lokalni strojni opremi, ki jo poganja Nvidia, pri čemer se na računalniku ohrani združljivo izvajanje modela in datoteke. Če korak zahteva model na robu oblaka, sistem pred eskalacijo uporabnika vpraša za dovoljenje. Delo, opravljeno lokalno, ne porablja kreditov za obračunavanje v oblaku, zaradi česar je ta pristop primeren za uporabnike, ki jih skrbita tako zasebnost kot ponavljajoči se stroški sklepanja.
Kaj pomeni Anthropicova ocena trga umetne inteligence v vrednosti 30 bilijonov dolarjev?
Navedena številka se nanaša na Anthropicov pogled na potencialni celotni naslovljiv trg za umetno inteligenco, ne pa na napoved, da bo Anthropic sam ustvaril 30 bilijonov dolarjev letnih prihodkov. Predstavlja teoretično vrednost dela, ki bi ga umetna inteligenca lahko potencialno opravila v celotnem gospodarstvu. Ocena tudi pomaga razložiti, zakaj vodilna podjetja na področju umetne inteligence tako veliko vlagajo v infrastrukturo in poslovne zmogljivosti.