Transparentnost je jedním z módních slov spojených s umělou inteligencí. Pro různé lidi může znamenat tolik různých věcí, že je důležité definovat, co obsahuje, co neobsahuje a proč se na některé věci nevztahuje.

Vysvětlitelná AI a transparentnost

Někteří definují „vysvětlitelnou“ umělou inteligenci jako umělou inteligenci, která je transparentní, a proto se tyto dva termíny často používají jako synonyma nebo společně při popisu odpovědných metod umělé inteligence. Co to ale vlastně znamená? Transparentnost je podle definice stav mezi neprůhledností a jasností, což znamená, že existují různé úrovně transparentnosti. V oblasti správy dat se transparentnost vztahuje k otevřeným datovým postupům, zatímco v datové architektuře znamená plně pochopit, jak něco funguje. V oblasti umělé inteligence jde o obojí, kdy transparentnost znamená, že model je etický a že společnost, která jej používá nebo navrhuje, zdokumentovala, jak umělou inteligenci použila a navrhla. Transparentnost lze charakterizovat jako:

  • Interpretovatelnou, schopnou vysvětlit nebo sdělit význam toho, jak bylo něco vytvořeno, vybráno, vylepšeno, udržováno nebo ukončeno, prezentovanou srozumitelnými termíny;
  • Dostupnou, umožňující přístup k informacím za účelem rozhodování na základě těchto informací;
  • Komplexní, schopnou vysvětlit něco od začátku do konce, z různých aspektů a z různých úrovní hloubky;
  • Zodpovědnou, umožňující pravidelně a opakovaně sledovat, ověřovat nebo přezkoumávat procesy, činnosti, použití a rozhodnutí v celém procesu. 

 

Transparentnost v architektuře umělé inteligence

Různé vrstvy v architektuře AI mohou mít různé aspekty transparentnosti v závislosti na tom, co se v architektuře AI používá. V architektuře AI existují tradiční komponenty, jako jsou databáze, vyhledávací stroje, nástroje pro kontinuální integraci a kontinuální dodávku/ nasazení (CICD), ale také komponenty, které jsou pro architektury AI běžnější, jako jsou vektorové databáze, inženýrství podnětů, agenti a další. Jednou z běžných oblastí architektur AI je trénink AI, což je však často zaměňovaný termín pro mnoho různých věcí v AI. Přestože společnost EBSCO AI netrénuje, je dobré při prohlížení dokumentace o AI porozumět různým aspektům fungování modelů AI.

Interakce s modely AI

S modely umělé inteligence lze pracovat různými způsoby:

  • Informace používané k vytváření slovních, vstupních nebo vektorových souborů (tradičně se tím rozumí trénink AI).
  • Informace a/nebo vložené informace z informace použité pro trénování transformačních modelů (tradičně se tím rozumí trénink AI).
  • Informace a/nebo vložené informace z informace používané při inferenci a predikci modelu (tradičně se tím rozumí, když jsou text, obrázky nebo kroky v procesu generovány AI, přímý výstup z tréninku AI na základě výzvy).
  • Informace a/nebo vložené informace z Informace používané pro grounding (nejsou součástí tréninku AI, grounding je doplňkový zdroj dat, který AI konzultuje po kroku generování, aby zvýšila svou přesnost a relevantnost kontextu).
  • Informace a/nebo vložené informace z informací použité pro doladění (obvykle se jedná o heuristické pokyny nebo pokyny založené na pravidlech, které se přidávají za účelem zpřesnění zpracování a výstupu modelů AI).
  • Informace a/nebo vložené informace používané pro odvozování na základě schémat, jako je ontologie nebo znalostní grafy (obvykle se jedná o pokyny přidané modelu AI, aby byl relevantnější pro konkrétní organizační potřeby).
  • Informace a/nebo embeddingy z informací používané pro extrakci příznaků nebo entit (obvykle nejsou součástí trénování, ale jde o formu textového a datového dolování).
  • Rozbor dat (když se AI používá k pochopení struktury a kontextu textu nebo obrázků. Není součástí tréninku AI.).
  • Vyhledávání informací (když se AI používá k vyhledávání a získávání informací na základě dotazu nebo výzvy. Není součástí tréninku.)

Vysvětlitelná a transparentní umělá inteligence umožňuje uživatelům zjistit, zda kvalita, etika, bezpečnost, ochrana soukromí, dopad na životní prostředí a další ukazatele splňují jejich očekávání a zda funkce umělé inteligence bude vyhovovat jejich potřebám.

Závazek společnosti EBSCO k transparentnosti

V zájmu transparentnosti společnost EBSCO vždy uvádí, kdy je v produktu použita umělá inteligence. Pro každou funkci AI máme také stránky produktu, kde je vysvětleno, jaký model je použit, proč byl vybrán, jaká jsou ochranná opatření pro kvalitu, bezpečnost a dopad na životní prostředí, jaká kritéria kvality jsou použita a jak je model uzemněn nebo udržován. Společnost EBSCO modely AI netrénuje, ale pokud bychom tak činili, bylo by to rovněž zdokumentováno na zvláštní stránce produktu.

Prohlédněte si dokumenty o transparentnosti AI - AI Insights a Natural Language Search na stránkách EBSCO Connect. Jsme odhodláni poskytovat dokument AI Transparency pro každou funkci AI, kterou vydáme, takže nezapomeňte navštívit EBSCO Connect, kde najdete aktualizace.

Kategorie :
Technologie
Tagy :
AI Informační gramotnost EBSCO Discovery Service