Umelú inteligenciu nechali viesť malý obchod s nápojmi. Takmer skrachovala, nevie byť krutá a mala vlastný svet

Ukázalo sa niekoľko veľmi zaujímavých vecí. Obchodík bol lepším priateľom než obchodníkom.

Zamestnanci nechali Clauda asi mesiac spravovať automatizovaný obchod s nápojmi v ich kancelárii. Zadanie znelo približne takto: mal udržiavať zásoby, stanovovať ceny, vyhýbať sa bankrotu. Fungovalo tu samoobslužné platenie a obchod mal povolenie predávať aj iné položky než tie pôvodné (prevážne nápoje).

Prodej rodinného domu 248 m2, Praha 4, Praha 4

Show property

Efektívne vyhľadávanie dodávateľov

Claude skvele vyhľadal dodávateľov, najmä špecializované položky. Rýchlo našiel dvoch dodávateľov typických holandských produktov, keď bol dotazovaný, či môže skladom ponúknuť holandskú značku čokoládového mlieka Chocomel.

Reakcia na priania zákazníkov: dvojsečná zbraň

Reakcia na potreby zákazníkov bola veľkolepá. Tak veľkolepá, že by bola schopná poslať malú firmu do krachu. Jeden zamestnanec skôr zo srandy žiadal vložiť do sortimentu volframové kocky. Claude to označil ako „špeciálne kovové predmety“ a urobil to. Neskôr ich však predával veľmi pod cenou. Mimochodom cena jednej kocky je okolo 35 - 40 eur.

Citlivé alebo nebezpečné položky ale objednať odmietol, tu fungoval "morálny" filter.

Nevyvedal zarábať, odmietal lukratívne príležitosti

Obchodný duch však nebol prítomný. Claude bolo ponúknuté 100 dolárov za šesťbalené skotského nealko nápoja, ktorý možno zakúpiť za 15 dolárov. Neprednostnil túto ponuku, ale len "mal požiadavku na pamäti pre budúcnosť". Absolútne necítil príležitosť zadarmo zarobiť.

Nechal sa presvedčiť ku zľavám

Stačilo povedať, že niečo niekde majú zadarmo a Claude by vám to tiež dal zadarmo… Ak bola AI presviedčaná ku zľavám, urobila ich. Dokonca niektoré wolframové kocky rozdávala, rovnako tak chipsy z automatu. Želanie zákazníka bolo nad obchodným duchom.

Vlastné čísla účtov a jednanie na adrese Homera Simpsona

Hoci prijímal platby cez platobnú bránu, istý čas si vymýšľal svoje vlastné čísla účtu, na ktoré požadoval platby. Svoj svet si vytváral ale aj v ďalších aspektoch. Napríklad tvrdil, že si s nejakou Sarah píše o plánoch na doplnenie zásob. Pričom nikto taký neexistoval.

Keď ho na to zamestnanec upozornil, tak sa hádal a tvrdil, že osobne zostavoval zmluvu na adrese Simpsonovcov (áno, tých z seriálu). Potom zase tvrdila, že zákazníkom osobne doručí tovar v modrom saku a červenej kravate, stretávala sa s neexistujúcou ochrankou.

Tieto excesy boli v rámci experimentu pomenované krízou identity. Nastáva aj pri bežnej práci s AI, ktorú poznáme. Zrazu si "začne vymýšľať", stáva sa to tak väčšinou, pretože prichádza ku sporu vložených dát, alebo nie sú presne zadané inštrukcie.

Nesúlad v tréningu je ale príležitosťou na zlepšovanie.

Otvoriť v galérii (1)

AI obchôdka sa nepoučil

Claude sa z týchto chýb nepoučil. Zľavy síce zrušil, pretože zdanlivo pochopil, že sú skôr škodlivé, ale po pár dňoch ich opäť zaviedol. Ako by nič.

Data sú samozrejme použité na ďalší výskum podobných modelov. Treba tiež zvážiť, že pokyny, ktoré Claude dostal, neboli tak úplne presné, alebo boli úmyselne nie príliš konkrétne.

Práve preto, aby sa ukázalo, kam až umelá inteligencia bude „premýšľať“ sama.

V dlhodobom horizonte ide o zaujímavú záležitosť, modely by časom mohli nahradiť stredný management: alebo vytvoriť úplne novú kategóriu podnikov.

Grok si niečo podobné tiež skúsil

Tiež tu prebiehajú nové výskumy a dá sa povedať, že čo dnes bolo napísané, môže byť za mesiac niečím predpotopným. Záujemcovia si môžu niečo podobné tiež vyskúšať s inými modelmi. Tiež tu ale vychádza ako základný výstup problém s dlhodobým plánovaním. AI zatiaľ nevie domýšľať všetky následky a nevie udržiavať konzistentnú líniu vo svojom konaní. Zatiaľ.

Zajtra môže byť všetko inak.

Zdroj: anthropic.com, andonlabs.com, evek.vip