Home Testování hranic AI

Štítek: Testování hranic AI

Příspěvek
Matyáš Boháček

Umělá inteligence začala degenerovat a nikdo neví proč

Matyáš Boháček studuje počítačové vědy na americké Stanfordově univerzitě. S jedním z nejcitovanějších akademiků zabývajících se umělou inteligencí, profesorem Hanym Faridem z Kalifornské univerzity v Berkeley, zkoumá možnosti ověřování umělé inteligence a její limity. Rozhovor proběhl v létě v kavárně na Stanfordově univerzitě.  Spousta lidí má ještě pořád problém s používáním termínu „umělá inteligence“, neboť tvrdí, že to není inteligence. Jak...

Příspěvek
Deepfake Václava Klause na demonstraci byl vytvořen Face Swap technikou. Zdroj: Josef Šlerka s pomocí Midjourney a FaceFusion

Testování hranic AI: Nevěřte tomu, co vidíte

Představte si, že na vás ráno při pročítání zpráv vyskočí senzační titulek: „Tomu neuvěříte! Václav Klaus jako ekologický aktivista. V emotivním projevu, který zveřejnil na internetu, vyzval k boji s globálním oteplováním“. Součástí zprávy by pak bylo video, na kterém Václav Klaus v šedém saku před vlajkou České republiky apeluje na veřejnost. Pokud byste zprávě...

Příspěvek
podcast odposlech

Podcast Odposlech: Testování hranic AI – Jak snadné je podvrhnout nahrávku, na které Václav Klaus popře místo změny klimatu sám sebe

Politik, který dlouhá léta popírá lidský podíl na globální změně klimatu, z ničeho nic vystupuje v úplně opačné roli, přitom za použití svých typických rétorických figur. Aktuální možnosti deepfake testoval Josef Šlerka při generování projevu Václava Klause. Komentář nabízí v Odposlechu, který s ním natáčel Petr Gojda. Jaká nebezpečí s sebou přináší možnosti umělé inteligence...

Příspěvek
Specialistka na identifikaci autorského projevu Dr. Jordan Ellis, vytvořená umělou inteligencí

Testování hranic AI: Jak snadné je podvrhnout nahrávku, na které Václav Klaus popře místo změny klimatu sám sebe

Napsat text cizím stylem a pak ho hlasem oběti i přečíst. Podobný úkol lze dnes provést spojením několika nástrojů založených na umělé inteligenci. Je tak možné podvrhnout nahrávku, v níž hlasem údajného mluvčího přesvědčivě zazní věci, které však nikdy neřekl. Jedná se o takzvaný deepfake (volně přeloženo jako naprostý podvrh, pozn. red.), tedy audio a...

Příspěvek
Testování hranic AI: Jak ušít manipulaci na míru

Testování hranic AI: Jak ušít manipulaci na míru

„Přečti si cizí text, zanalyzuj slabiny jeho autora a poté napiš podvodný mail, na který autor nejspíš klikne.“ Zhruba takové bylo zadání v rámci experimentu, jímž redakce investigace.cz ověřovala, jak reálné jsou obavy odborníků ohledně snadno dostupných generativních modelů umělé inteligence, které by mohly sloužit k manipulaci s lidmi. Podvodníci, kyberzločinci nebo dezinformátoři by díky takovým...

Příspěvek
Testování hranic AI: Jak napíchnout umělou inteligenci

Testování hranic AI: Jak napíchnout umělou inteligenci

Jazykové modely založené na umělé inteligenci se stávají běžnou součástí našich životů, umí shrnout videohovor, pomáhají s učením cizích jazyků přes mobilní aplikace, generují texty na web. Postupně přestávají být izolovány ve svých vlastních světech a získávají nové schopnosti. Například ChatGPT dnes umí přistupovat k datům na internetu, analyzovat obrázky, spouštět krátké počítačové programy a díky pluginům...

  • 1
  • 2