Utveckling av en AI-assistent för stöd vid en blodgivares hälsodeklaration - Testning, verifiering och implementering av LLM-baserade användargränssnitt för en medicinsk domän

Abstract

Med bakgrund av att frivillig blodgivning är en viktig del av svensk sjukvård finns det intresse för möjligheten att låta en potentiell donator fylla i sin obligatoriska hälsodeklaration digitalt hemifrån. En EHD-prototyp har utvecklats tillsammans med en integrerad AI-assistent med syfte och funktion att besvara användares medicinska frågor angående blodgivning. AI-assistenten nyttjar RAG för hämtning av domänspecifik information, som har extraherats från SweBa:s regelverk för blodgivning. Korrektheten i AI-assistentens genererade svar har manuellt granskats med ett resultat på 93% korrekthet för frågor relaterade till sjukdomar och 97% för frågor relaterat till vaccinationer. Resultatet bedöms inte tillförlitligt nog att användas i EHD på grund av risk för felaktiga svar samt de etiska och juridiska och implikationer som kan uppstå om en användare agerar utifrån felaktig information.