»

Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnosti

Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.

Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa...

34 komentarjev

Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5

Slo-Tech - Silovit razmah velikih jezikovnih modelov v tem letu daje napačen občutek, da so računalniki šele sedaj prvikrat res obvladali naravni človeški jezik. Resnično so čedalje boljši, a že pred sedmimi desetletji se je ELIZA pogovarjala z ljudmi. Enega prvih robotov za pogovore (chatbot) je na MIT-u razvil Joseph Weizenbaum. Najnovejši preizkus, ki sta ga izvedla raziskovalca z Univerze v San Diegu, kaže, da je ELIZA bolj človeška od GPT-3.5. Rokopis študije še ni recenziran.

Cameron Jones in Benjamin Bergen sta modele podvrgla Turingovemu testu. Gre za znameniti preizkus, ki si ga je Alan Turing zamislil leta 1950 v članku The Imitation Game. Turingov test je eden najbolj znanih poizkusov, s katerim lahko ugotavljamo, ali se umetna inteligenca lahko uspešno predstavi kot človek. V testu sodelujeta človek in umetna inteligenca, ki z izpraševalcem komunicirata prek računalnika. Izpraševalec ju lahko sprašuje karkoli, nato pa mora iz odgovorov ugotoviti, ali je na drugi strani človek ali...

9 komentarjev

Ko GPT-4 Vision sreča ElevenLabs, dobimo umetnega Davida Attenborougha

Slo-Tech - Tehnologija obstaja že nekaj časa, a šele ko združimo njene različne pojavne oblike, postane zares jasno, česa je sposobna. Charlie Holtz je na X-u pokazal, kako je združil GPT-4 Vision, ki ustvari besedilni opis vizualnih podob, in tehnologija za kloniranje glasu ElevenLabs. Spisal je skripto, ki vsakih pet sekund zajame posnetek z njegove kamere, ga prek API posreduje GPT-4 Vision, nato pa besedilni opis prebere klon glasu Davida Attenborougha. Rezultati so zelo realistični.

Kodo je objavil tudi na GitHubu, a je brezplačno ni možno uporabiti. Za delovanje namreč potrebujemo dostop prek API do GPT-4 Vision in do ElevenLabs, ki ni zastonj, temveč se plačuje po žetonih. Če pa to imamo, so ovire le naša domišljija. Pietro Schirano je na primer pokazal, kako lahko lažni Steve Jobs ocenjuje in kritizira različne izdelke iz aplikacije Figma.

Tehnologija je torej tu in omogoča, da kdorkoli "reče" karkoli. Sedaj je treba razmisliti, kako jo regulirati in to tudi izvajati. ElevenLabs na...

5 komentarjev

Microsoft in Epic bosta pripeljala GPT-4 v medicino

Slo-Tech - Microsoft in Epic Systems sta sporočila, da bosta združila moči in pripeljala veliki jezikovni model GPT-4 v medicino. Z njim želita olajšati delo zdravstvenemu osebju, saj bo z njim možno pisati sporočila in analizirati zdravstvene kartone. Skeptiki so zelo zaskrbljeni.

Epic je največji ponudnik programske opreme za ameriške bolnišnice. Ocenjujejo, da njegove programe, denimo MyChart, uporablja približno 30 odstotkov ameriških bolnišnic. Po celem svetu ima elektronske kartone v njihovem sistemu več kot 300 milijonov pacientov. To pomeni, da ima Epic dostop do velikanske količine podatkov.

Microsoft pa je po drugi strani investitor v Open in nudi dostop do GPT-4 prek svojih storitev Azure (na voljo je API). To dvoje bi sedaj združili, pri čemer bi umetna inteligenca pomagala v dveh pogledih. GPT-4 je odličen v pisanju besedil in bo zdravstvenim delavcem pomagal pri snovanju sporočil za komunikacijo s pacienti. To je povsem smiselna uporaba, saj bo besedila tako ali tako še nekdo...

28 komentarjev

ChatGPTju grozi tožba zaradi obrekovanja

Slo-Tech - Župan iz Avstralije Brian Hood je družbi OpenAI zagrozil s tožbo, če ne spremeni pogovornega bota ChatGPT tako, da o njem ne bo več blebetal škodljivih neresnic.

Bržkone najbolj razvpita in pereča težava modernih chatbotov je njihova lastnost, da halucinirajo podatke, to je, da na naše poizvedbe odgovarjajo s povsem izmišljenimi stvarmi. Tako je preprosto zaradi tega, ker njihovi jezikovni modeli v resnici ne poznajo povezav med pojmi, temveč so zgolj statistična orodja, ki postavljajo črke skupaj tako, kot izhaja iz ogromnega korpusa besedil, na katerem so se učili. Halucinirajo zelo pogosto, zato je bilo zgolj vprašanje časa, kdaj se bo kakšna javna oseba na sodišču pritožila za stvari, ki jih bot govoriči o njej. Videti je, da se bo to najprej zgodilo v Avstraliji, kjer je župan regije Hepburn Shire, Brian Hood, 21. marca na OpenAI naslovil grožnjo s tožbo, v kolikor ChatGPTja ne priredi tako, da o njem ne bo širil neresnic.

Konkretno: bot lahko na pozive o Hoodu odgovori, da...

50 komentarjev

Vrsta strokovnjakov poziva k polletni ustavitvi razvoja strojnega učenja

Slo-Tech - Organizacija Future of Life Institute je objavila javno pismo, v katerem več vidnih osebnosti s področja strojnega učenja in informacijskih tehnologij poziva k šestmesečnemu moratoriju na razvoj in lansiranje novih produktov s področja strojnega učenja.

Izjemno nagel razvoj rešitev s področja strojnega učenja v zadnjem letu, posebno veliki jezikovni modeli in generatorji podob, vzbuja strah, da pravna in akademska stroka ter zakonodajna telesa izgubljajo bitko za uspešno razumevanje in nadzorovanje takšne napredne tehnologije. Investicijska banka Goldman Sachs je na začetku tedna objavila poročilo, v katerem ugotavlja, da naj bi generativna strojna pamet v naslednjem desetletju v razvitih državah ob službo spravila okoli 300 milijonov ljudi, v zameno za od 7- do 10-odstotni dvig bruto družbenega proizvoda. Najnovejši modeli, kot je nedavno lansirani GPT-4, s skokovitim tempom izboljšujejo svojo učinkovitost in se na nekaterih testih jezikovnega znanja že odrežejo skoraj tako dobro...

67 komentarjev

Microsoft predstavil 365 Copilot, algoritemskega pomočnika za pisarniške pakete

Microsoft - Microsoft je po pričakovanjih pokazal še izvedbo z GPTjem podprtih pisarniških storitev: Microsoft 365 Copilot zna ustvarjati naprednejše vzorčne dokumente in analizirati podatke. Ni pa še prosto na voljo uporabnikom.

Vse odkar so se v Redmondu januarja še tesneje povezali z laboratorijem za razvoj strojnih algoritmov OpenAI, so se vrstile napovedi, da bodo z GPTjem podprte rešitve kar se da hitro našle mesto v vsem od Worda do Excela. Po tem, ko so februarja pričeli z Bingom, je sedaj res na vrsti še širši Microsoftov pisarniški ekosistem, ki so ga okrepili z algoritemskim pomočnikom, imenovanim Microsoft 365 Copilot. Gre za asistenta - chatbota, ki ždi ob robu pisarniških orodij in ga lahko pobaramo, naj ustvari predloge za poštna sporočila, dokumente in razpredelnice, povzame smisel konferenčnega pogovora ali iz oblaka potegne primerno sliko za prezentacijo. Če smo malo hudomušni - Clippy je končno postal uporaben. Je pa treba omeniti, da storitev še ni odprta, kajti v tem...

15 komentarjev

Kitajski Baidu predstavil svoj ChatGPT in razočaral

Slo-Tech - Zlobni jeziki bi dejali, da je Baidu končno dosegel Googlov nivo. Predstavitev njihovega jezikovnega modela v obliki sogovornika, ki se imenuje Ernie, jim je uspela v enaki meri, saj so tudi Baidujeve delnice takoj zatem padle kot kamen. Desetodstotno znižanje tečaja je sledilo manj kot navdušujoči premierni predstavitvi izdelka, ki je potekala danes. Težko pričakovani dogodek je obljubljal predstavitev izdelka, ki naj bi revolucijsko predrugačil iskanje po spletu, poslovanje in številne druge izdelke. A po splavitvi sploh ni jasno, ali bo Ernie kos ChatGPT-ju.

Ustanovitelj Baiduja Robin Li je danes pred zaslonom narekoval vprašanja, ki so bila predhodno vtipkana v Baidu. Če smo pričakovali razumevanje govorjenega besedila in odgovarjanje v realnem času, smo se zmotili. Baidu je pokazal le vnaprej posnet primer delovanja Ernieja. Tod bi celo lahko rekli, da se je nekaj naučil od Googla, ki je poizkusil v živo in se osmešil. Ernie še ni na voljo javnosti, temveč bo sprva namenjen...

4 komentarji

OpenAI naznanil GPT-4

openai.com - Kot smo že nekaj časa pričakovali, so v OpenAI naposled najavili veliki jezikovni model GPT-4. Za rahlo presenečenje pa so obenem poskrbeli v Microsoftu, s priznanjem, da novi Bing Chat v bistvu na njem sloni že od začetka testiranja.

Skoraj 3 leta nas že ločijo od prvih vnašanj ukazov generativnemu jezikovnemu algoritmu, oziroma velikemu jezikovnemu modelu (LLM) GPT-3. Umotvor laboratorija OpenAI je postal eden od sinonimov za eksplozijo generativne strojne inteligence, ki je lani dosegla nove nivoje z generatorji slik in jesenskim lansiranjem pogovornega bota ChatGPT, letos pa z nebrzdano naglico poganja novo tekmo med tehnološkimi velikani. Posledica norije je bilo seveda mrzlično čakanje na novo različico GPTja, ki so ga sicer inženirji medtem iterativno nadgrajevali, tako da je bila lani v bistvu aktualna različica 3.5. Tudi šef OpenAIja, Sam Altman, je večkrat opozoril, da so pričakovanja bržkone prevelika in da bo GPT-4 nova evolucijska stopnja ter še daleč od kakšne...

27 komentarjev