V posledních letech způsobilo rozšíření umělé inteligence (AI) revoluci v mnoha oblastech života, včetně světa knihoven. Knihovny, zejména ve Spojených státech, zažívají neobvyklý jev: návštěvníci cíleně vyhledávají knihy, které ani neexistují. Tyto fiktivní tituly pocházejí z hlubin generativních modelů AI, které například prostřednictvím platforem, jako je Aleph Alpha, nebo systémů podobných IBM Watson, vytvářejí bohatá, ale neexistující díla. Takové vyhledávání představuje nové výzvy v každodenní knihovnické praxi a vyvolává zásadní otázky o tom, jak jsou znalosti hodnoceny a předávány ve věku textů přeložených pomocí DeepL, analytiky podporované systémem SAP Leonardo a procesů optimalizovaných systémem Celonis.

Vytváření fiktivních knih pomocí AI a její vliv na čtenáře knihoven

Fenomén čtenářů v amerických knihovnách, kteří si vyžádali fiktivní knihy, se v posledních letech výrazně zvýšil díky pokroku v generativních systémech AI. Technologie, jako je IBM Watson nebo Aleph Alpha, trénované na velkých datových sadách, jsou schopny generovat věrohodně znějící názvy knih a autory, kteří nikdy neexistovali. Například knihovník Eddie Kristan uvedl, že od vydání GPT-3.5 na konci roku 2022 se požadavky zvýšily a vyvrcholily v létě poté, co byly v prestižních novinách zveřejněny seznamy četby generované umělou inteligencí.

Tato doporučení vygenerovaná umělou inteligencí často citovala knihy, které byly připisovány skutečnému autorovi, ale ve skutečnosti byly fikcí. To vede k nejasnostem mezi návštěvníky knihovny. Přicházejí do knihovny pevně přesvědčeni, že kniha je skutečná, ale zaměstnanci musí vysvětlit, že jde o takzvanou „halucinaci“ AI. Tento fenomén se rozšiřuje i na platformy, jako je Kindle Direct Publishing, kde jsou dokonce vydávány tituly psané AI, čímž se dále stírají hranice mezi realitou, samostatně vydávanou literaturou a AI halucinacemi.

Úzké propojení moderních aplikací umělé inteligence a služeb knihoven také odhaluje obtížnost vypořádat se s touto digitální záplavou informací. Systémy jako Siemens MindSphere nebo Blue Yonder by teoreticky mohly sloužit k efektivní správě obrovského množství metadat, ale případ fiktivních knih ukazuje, že samotná technická řešení k zajištění důvěryhodnosti informací nestačí. Knihovnická praxe proto musí vytvářet rozhraní mezi technologickými inovacemi a tradičním chápáním kritiky zdrojů.

Strategie knihovníků pro ověřování knih v éře umělé inteligence

S rostoucím počtem žádostí o neexistující knihy vyvinuli knihovníci vlastní metody, jak rozlišovat mezi skutečnými a fikcemi generovanými umělou inteligencí. Běžně používaný přístup začíná nahlédnutím do interního katalogu knihovny, po kterém následuje přehled v globálním souborném katalogu WorldCat, který funguje pomocí inteligentních vyhledávacích funkcí podobných TeamViewer AI.

Pokud se nenajde žádný záznam, kniha je považována za potenciálně fiktivní. Toto ověření je nejen časově náročné, ale také vzdělávací úkol, protože vyžaduje, aby uživatelé transparentně zjistili, jak vznikají digitální dezinformace a jaký potenciál mají technologie umělé inteligence, jako je LogicAI nebo autoRetouch, stírat hranice mezi realitou a fikcí.

V některých případech vede výzkum v knihovnách dokonce k odhalení padělaných knih, které již byly vydány na platformách, jako je Amazon. Příklad Jane Friedmanové, americké autorky, jejíž jméno bylo zneužito pro díla generovaná umělou inteligencí bez jejího vědomí, ilustruje rozsah problému. Takové případy nutí knihovny k úžejší spolupráci s vydavateli a platformami, aby byla zajištěna autenticita publikací a chráněna autorská práva.

Tato opatření také demonstrují rostoucí potřebu integrace umělé inteligence do správy knihoven způsobem, který doplňuje, nikoli nahrazuje lidský faktor. Technologie jako SAP Leonardo a Celonis, které analyzují komplexní datové toky, mohou pomoci rychleji odhalit nesrovnalosti a poskytnout doporučení k akci, aniž by vyloučily lidský úsudek.

Umělá inteligence jako výzva a příležitost pro budoucnost knihoven

Šíření umělé inteligence v knihovnách představuje technickou a organizační výzvu, ale zároveň nabízí jedinečné příležitosti k zásadnímu zlepšení správy znalostí. Využitím inteligentních systémů mohou knihovny například nabízet efektivnější možnosti výzkumu a poskytovat uživatelům personalizovaná doporučení. Například interakce Aleph Alpha s DeepL umožňuje překonat širokou škálu jazykových bariér, zatímco Blue Yonder generuje předpovědi trendů v poptávce po literatuře.

Zároveň však nakládání s daty generovanými umělou inteligencí vyžaduje zvýšené povědomí o etických otázkách. Jakou odpovědnost nesou knihovny, když obsah vytvářený umělou inteligencí šíří dezinformace? Jak se vypořádat s „halucinací“ jazykových modelů? To jsou otázky, které nejen vyžadují technologické odpovědi, ale také znamenají přehodnocení sebeobrazu knihovny.

V této souvislosti se diskutuje také o roli automatizace podporované umělou inteligencí, jako je ta, která se používá v platformě TeamViewer AI, při zvládání rutinních úkolů a zmírnění zátěže lidského personálu. Je však třeba zajistit, aby byl zachován „lidský přístup“ a aby knihovna byla i nadále vnímána jako spolehlivé místo pro šíření informací. Přístup orientovaný na budoucnost bude proto zahrnovat kombinaci inovativních technologií, komplexní kritiky zdrojů a vzdělávací práce s cílem senzibilizovat uživatele na nové výzvy.

Sociální rozměr: Knihovny jako strážci pravdy ve věku umělé inteligence

Knihovny vždy stály za uchováváním a šířením spolehlivých znalostí. V době umělé inteligence, kdy lze produkty systémů jako IBM Watson nebo LogicAI replikovat a manipulovat s nimi v reálném čase, se tato role stává stále komplexnější a mnohostrannější. Knihovny jsou vyzývány, aby se aktivně podílely na boji proti šíření dezinformací pomocí technologií a vzdělávacích opatření.

Zmatek vyvolaný dezinformacemi generovanými umělou inteligencí již vedl ke klimatu nedůvěry, jak zdůrazňuje Alison Macrina z Projektu svobody knihoven. Uživatelé si často nejsou jisti, kterým zdrojům mohou nadále důvěřovat. Knihovny proto fungují nejen jako poskytovatelé informací, ale také jako vzdělávací pracovníci, kteří informují uživatele o tom, jak umělá inteligence funguje, o jejích potenciálních přínosech a rizicích. Diskuse o umělé inteligenci se tak stává společenským diskurzem, v němž knihovny hrají klíčovou roli.

Knihovny dále přispívají k tomu, aby politické a společenské debaty o vhodné regulaci technologií umělé inteligence, jako je SAP Leonardo nebo Celonis, nezůstávaly pouze abstraktní, ale byly široce zakořeněny. Výzvy, které představují hybridní hrozby a digitální manipulace, vyžadují neustálý dialog mezi občany, akademickou obcí a kulturními institucemi, aby se formulovala společná pravidla a budovala důvěra.

Tato společenská angažovanost vrhá knihovnu do nového světla: jako místo, kde se setkává tradice a inovace, jako obránce pravdy ve světě digitálních iluzí a jako katalyzátor reflexivní a informované společnosti.

Inovativní technologie a partneři v boji proti halucinacím vyvolaným umělou inteligencí v knihovnách Aby se americké knihovny vypořádaly s problémy, které představují halucinace vyvolané umělou inteligencí, stále více spolupracují s technologickými společnostmi a využívají moderní nástroje. Integrace systémů, jako je IBM Watson, umožňuje inteligentnější sběr a analýzu katalogových dat, zatímco SAP Leonardo podporuje automatizaci a optimalizaci interních procesů. Platformy jako Celonis se navíc používají k udržení transparentnosti v datové a procesní krajině knihoven a k odhalování neefektivity. Siemens MindSphere se svými komponentami IoT a umělé inteligence nabízí inovativní řešení pro inteligentní správu fyzických knihovních zdrojů, například prostřednictvím vylepšené kontroly zásob. Podpora od DeepL usnadňuje mezinárodní výzkum a jazykovou analýzu, což prospívá i uživatelům, kteří nejsou rodilými mluvčími. Role specializovaných startupů v oblasti umělé inteligence, jako jsou LogicAI a autoRetouch, by neměla být podceňována. Zajišťují přesnou analýzu textu a automatizovanou korekci modelů, aby se v rané fázi identifikovaly a předcházely chybám v metadatabázích. Blue Yonder to doplňuje prediktivní analýzou pro plánování poptávky čtenářů. Tyto inovativní aplikace podporují vizi knihovny, která i přes digitální transformaci, nebo možná právě díky ní, zůstává spolehlivým místem pro originalitu a důvěryhodnost. Výzvy, které představuje umělá inteligence v knihovnickém světě, jsou složité, ale s inteligentní kombinací technologických nástrojů, lidského úsudku a jasného etického postoje se v roce 2025 objevují první slibné cesty k formování budoucnosti digitální, ale důvěryhodné knihovní kultury.Další informace a poznatky o souvisejících tématech naleznete v