Studie: AI-bots geven in helft gevallen misleidend medisch advies

In dit artikel:

Onderzoekers uit de VS, Canada en het VK onderzochten recent (publicatie in BMJ Open) hoe vijf veelgebruikte AI-chatbots omgaan met medische vragen. Ze testten ChatGPT, Gemini, Meta AI, Grok en DeepSeek elk met tien vragen uit vijf gezondheidscategorieën en beoordeelden alle antwoorden op risico’s en betrouwbaarheid. Ongeveer de helft van de gegeven adviezen bleek problematisch, en bijna 20% werd als ernstig problematisch aangemerkt; de systemen presteerden beter bij gesloten vragen en onderwerpen als vaccinatie en kanker, maar slecht bij open vragen en thema’s als stamcellen en voeding. De modellen formuleerden hun antwoorden vaak zeer stellig, terwijl geen enkele in staat was een volledig correcte en complete bronnenlijst te leveren. Conclusie: AI-chatbots kunnen misleidend medisch advies geven; gebruikers moeten daarom terughoudend zijn en bij gezondheidsvragen professioneel medisch advies zoeken.