Transparantie is een van de buzzwoorden die geassocieerd worden met kunstmatige intelligentie (artificial intelligence, AI). Doordat het verschillende dingen kan betekenen voor verschillende mensen, is het belangrijk om te definiëren wat er wel en niet onder valt – en ook waarom.
Verklaarbare AI en transparantie
Sommigen definiëren “verklaarbare” AI als AI die transparant is. Deze twee termen worden dan ook vaak als synoniem of samen gebruikt bij het beschrijven van verantwoorde AI-methodes. Maar wat betekent het eigenlijk? Transparantie is per definitie een toestand tussen ondoorzichtig en volledig doorzichtig, wat betekent dat er verschillende transparantieniveaus zijn. Bij data-governance verwijst transparantie naar open datapraktijken, terwijl het bij data-architectuur verwijst naar het volledig begrijpen hoe iets werkt. Bij AI is het een beetje van beide: een transparant AI-model betekent dat het ethisch is en dat het bedrijf dat het gebruikt of ontwerpt, heeft gedocumenteerd hoe de AI precies werkt.
Transparantie kan worden gekarakteriseerd als:
- Interpreteerbaar — kunnen uitleggen of vertellen hoe iets is gecreëerd, geselecteerd, verbeterd, onderhouden of beëindigd, in begrijpelijke bewoordingen gepresenteerd
- Beschikbaar — toegang hebben tot informatie om beslissingen te nemen over de informatie
- Volledig — iets van begin tot eind kunnen uitleggen, vanuit verschillende facetten en vanuit verschillende niveaus van diepgang
- Verantwoordelijkheid — de mogelijkheid om de processen, acties, het gebruik en de beslissingen regelmatig en herhaalbaar te volgen, te traceren, te verifiëren of te herzien
Transparantie in AI-architectuur
De verschillende lagen van AI-architecturen kunnen allemaal verschillende transparantie-aspecten hebben, afhankelijk van wat er wordt gebruikt in de AI-architectuur. AI-architecturen kennen traditionele componenten zoals databanken, zoekmachines en continue integratie, maar er zijn ook elementen die specifieker zijn voor AI-architecturen zoals vectordatabanken, prompt engineering, agents en meer. Een veelvoorkomend element van AI-architecturen is AI-training – een vaak verwarrende term die gebruikt wordt voor veel verschillende dingen. Hoewel EBSCO geen AI traint, is het goed om de verschillende aspecten van de werking van AI-modellen te begrijpen bij het doornemen van documentatie over AI.
Interactie met AI-modellen
Interactie met AI-modellen kan op verschillende manieren plaatsvinden:
- Informatie die wordt gebruikt om woord-, input- of vectorembedding te maken (dit wordt traditioneel bedoeld met AI-training)
- Informatie en/of embedding van informatie gebruikt voor het trainen van transformatormodellen (dit wordt traditioneel bedoeld met AI-training)
- Informatie en/of embedding van informatie die wordt gebruikt bij modelinferenties en voorspellingen (dit wordt traditioneel bedoeld wanneer tekst, afbeeldingen of stappen in een proces worden gegenereerd door de AI, de directe output van AI-training op basis van een prompt)
- Informatie en/of embedding van informatie gebruikt voor grounding (dit is geen onderdeel van AI-training; grounding is gebruik van een aanvullende databron die AI na het genereren kan raadplegen om de nauwkeurigheid en contextrelevantie te vergroten)
- Informatie en/of embedding van informatie gebruikt voor verfijning (dit is meestal heuristische of op regels gebaseerde begeleiding toegevoegd om de verwerking en uitvoer van het AI-model te verfijnen)
- Informatie en/of embedding van informatie gebruikt voor interpretatie op basis van schema's zoals een ontologie of kennisgrafieken (dit is meestal begeleiding die wordt gegeven aan een AI-model om het relevanter te maken voor een specifieke organisatorische behoefte)
- Informatie en/of embedding van informatie gebruikt voor het extraheren van kenmerken of entiteiten (dit is meestal geen onderdeel van training, maar een vorm van tekst- en datamining)
- Data parsing (dit is het gebruik van AI om de structuur en context van tekst of afbeeldingen te begrijpen, en maakt geen deel uit van training).
- Informatie opvragen (wanneer een AI wordt gebruikt om informatie te zoeken en op te halen op basis van een zoekopdracht of vraag; maakt geen deel uit van training)
Transparantie in AI beoordelen
Uit deze lijst kunnen we opmaken dat AI veel elementen heeft. Hoewel ze misschien niet allemaal relevant zijn voor elke toepassing of product, is het goed om naar deze elementen te vragen bij het evalueren van de transparantie en de criteria waarvoor transparantie nodig is.
Verklaarbare AI betekent dat de maatstaven die worden gebruikt om de AI te beoordelen en de manier waarop de AI wordt gebruikt, ontworpen en onderhouden ook transparant worden gepresenteerd aan eindgebruikers. Verklaarbare en transparante AI stelt gebruikers in staat om te bepalen of de kwaliteit, ethiek, veiligheid, privacy, milieu-impact en andere criteria voldoen aan hun verwachtingen.
Transparant gebruik van AI bij EBSCO
In het kader van transparantie geeft EBSCO altijd aan wanneer AI in één van haar producten gebruikt wordt. We hebben productpagina’s voor elke AI-functie waarop uitgelegd wordt welk model gebruikt wordt, waarom hiervoor gekozen is, welke waarborgen er zijn voor kwaliteit, veiligheid en milieu-impact, welke kwaliteitscriteria gehanteerd worden, en hoe het model wordt geground en onderhouden. EBSCO traint geen AI-modellen, dus hiervoor is geen documentatie nodig.
Wilt u meer weten over AI-transparantie voor AI Insights? Kijkt u dan hier. Informatie voor Natural Language Search vindt u hier. We zullen een AI-transparantiedocument verstrekken voor elke AI-functie die we uitbrengen, dus houd EBSCO Connect in de gaten voor updates!
