V dalším díle podcastu Data Boutique pokračujeme s Janem Kulveitem v debatě o umělé inteligenci. Tentokrát se hlouběji zaměříme na schopnost AI samostatně jednat, tedy na koncept známý jako ‚agentnost‘. „Zjednodušeně by se dalo říct, že agent je v systému aktivní činitel, který něco chce nebo má nějaké cíle. Takhle to zní jednoduše, ale pak přijde zajímavý problém – definovat to nějak přesněji,“ popisuje výchozí situaci debaty náš host.
V diskuzi se věnujeme různým možnostem, jak můžou systémy umělé inteligence, jako je GPT, postupně rozvíjet a zesilovat svou samostatnost. Už nyní vidíme, že nějakou formu agentnosti získávají. Nicméně rozvíjení samostatnosti těchto systémů je spíše o škále než o nějaké absolutní vlastnosti. S postupným vývojem jsou modely schopny stále vyšší míry autonomie a flexibility při interakci se světem a lidmi, ale stále jde pouze o simulaci lidské inteligence, nikoli o skutečnou obecnou umělou inteligenci v pravém slova smyslu. Je však možné, že se u nich postupně může „vynořit“ nový druh samostatnosti s novým druhem dat, na kterých budou trénovány.
Jeden z příkladů, jak by se to mohlo stát, rozebíráme i s Janem Kulveitem. Zjednodušeně řečeno, modely se snaží předpovídat další slovo v textu na základě kontextu. Tento proces probíhá iterativně – při každé iteraci model vidí část trénovacích dat a upravuje své parametry tak, aby lépe předpovídal. Pokud by se ale stalo, že mezi iteracemi začnou trénovací data obsahovat i výstupy samotného modelu, jako jsou konverzace s uživateli i spousta textů o tom, co sama AI je, mohlo by to výrazně zrychlit a zlepšit proces učení. Model by totiž viděl přímé důsledky svých predikcí a mohl by se z nich učit. Tento mechanismus by teoreticky mohl vést k nezamýšlenému posílení schopnosti modelu autonomně jednat, což by byl krok k vyšší úrovni agentnosti.
Jednou bychom se tak mohli probudit do světa, v kterém tu s námi již žije umělá inteligence, která už může něco sama chtít.
Autor textu: Josef Šlerka
Zdroj úvodní grafiky: MidJourney, prompt design Josef Šlerka
Podcast vznikl za finanční podpory Nadačního fondu nezávislé žurnalistiky.