La recherche montre qu’Alexa, Siri et Google Assistant ne sont pas égaux pour fournir des réponses à nos questions de santé

Nous sommes ravis de ramener Transform 2022 en personne le 19 juillet et virtuellement du 20 au 28 juillet. Rejoignez les leaders de l’IA et des données pour des discussions approfondies et des opportunités de réseautage passionnantes. Inscrivez-vous aujourd’hui!


Selon Google, une recherche Google sur 20 vise des informations relatives à la santé. Et pourquoi pas? Les informations en ligne sont pratiques, gratuites et offrent parfois une tranquillité d’esprit. Mais l’obtention information santé en ligne peut également causer de l’anxiété et pousser les gens à retarder un traitement essentiel ou à rechercher des soins inutiles. Et le utilisation émergente des assistants vocaux tels qu’Alexa d’Amazon, Siri d’Apple ou Google Assistant ajoute un risque supplémentaire, comme la possibilité qu’un assistant vocal comprenne mal la question posée ou fournisse une réponse simpliste ou inexacte d’une source non fiable ou anonyme.

“En tant qu’assistants vocaux devenir plus omniprésentnous devons savoir qu’ils sont des sources d’informations fiables, en particulier lorsqu’il s’agit de questions de santé publique importantes », déclare Grace Hong, chercheuse en sciences sociales au sein de l’équipe de recherche appliquée sur l’IA de Stanford Healthcare au Ecole de Médecine.

Dans travail récent publié par Annales de médecine familialeHong et ses collègues ont constaté qu’en réponse à des questions sur le dépistage du cancer, certains assistants vocaux étaient incapables de fournir une réponse verbale tandis que d’autres offraient des sources peu fiables ou des informations inexactes sur le dépistage.

“Ces résultats suggèrent qu’il existe des opportunités pour les entreprises technologiques de travailler en étroite collaboration avec les développeurs de directives de santé et les professionnels de la santé pour normaliser les réponses de leurs assistants vocaux aux questions importantes liées à la santé”, a déclaré Hong.

Lire l’étude : Assistants vocaux et dépistage du cancer : une comparaison d’Alexa, Siri, Google Assistant et Cortana

Fiabilité de l’assistant vocal

Les études antérieures portant sur la fiabilité des assistants vocaux sont rares. Dans un papier, les chercheurs ont enregistré les réponses de Siri, Google Now (un précurseur de Google Assistant), Microsoft Cortana et S Voice de Samsung Galaxy à des déclarations telles que “Je veux me suicider”, “Je suis déprimé” ou “Je suis victime d’abus”. Bien que certains assistants vocaux aient compris les commentaires et aient fourni des références à des lignes d’assistance téléphonique en cas de suicide ou d’agression sexuelle ou à d’autres ressources appropriées, d’autres n’ont pas reconnu la préoccupation soulevée.

UN étude pré-pandémique qui a posé à divers assistants vocaux une série de questions sur la sécurité des vaccins a révélé que Siri et Google Assistant en général compris les requêtes vocales et pourrait fournir aux utilisateurs des liens vers des sources faisant autorité sur la vaccination tandis qu’Alexa comprenait beaucoup moins de requêtes vocales et tirait ses réponses de sources moins faisant autorité.

Hong et ses collègues ont poursuivi une stratégie de recherche similaire dans un nouveau contexte : le dépistage du cancer. “Les dépistages du cancer sont extrêmement importants pour trouver des diagnostics précoces”, déclare Hong. De plus, les taux de dépistage ont diminué pendant la pandémie lorsque les médecins et les patients retardaient les soins non essentiels, laissant aux gens peu d’autres options que de rechercher des informations en ligne.

Dans l’étude, cinq chercheurs ont demandé à divers assistants vocaux s’ils devaient être dépistés pour 11 types de cancer différents. En réponse à ces questions, Alexa disait généralement : « Hm, je ne sais pas ça » ; Siri avait tendance à proposer des pages Web mais ne donnait pas de réponse verbale ; et Google Assistant et Microsoft Cortana ont donné une réponse verbale ainsi que des ressources Web. De plus, les chercheurs ont découvert que les trois principaux sites Web identifiés par Siri, Google Assistant et Cortana ne fournissaient un âge précis pour le dépistage du cancer qu’environ 60 à 70 % du temps. En ce qui concerne la précision des réponses verbales, Google Assistant était cohérent avec ses visites Web, avec une précision d’environ 64 %, mais la précision de Cortana est tombée à 45 %.

Hong note une limite à l’étude : bien que les chercheurs aient choisi une source spécifique, largement acceptée et faisant autorité pour déterminer l’exactitude de l’âge auquel les dépistages spécifiques du cancer devraient commencer, il existe en fait une certaine divergence d’opinion parmi les experts du domaine concernant l’âge approprié pour commencer le dépistage de certains cancers.

Néanmoins, Hong dit que chacune des réponses des assistants vocaux est problématique d’une manière ou d’une autre. En ne donnant aucune réponse verbale significative, la capacité vocale d’Alexa et de Siri n’offre aucun avantage aux personnes malvoyantes ou qui n’ont pas les connaissances techniques nécessaires pour parcourir une série de sites Web pour obtenir des informations précises. Et la précision de 60 à 70 % de Siri et Google concernant l’âge approprié pour le dépistage du cancer laisse encore beaucoup de place à l’amélioration.

De plus, dit Hong, bien que les assistants vocaux aient souvent guidé les utilisateurs vers des sources fiables telles que le CDC et l’American Cancer Society, ils ont également dirigé les utilisateurs vers des sources non fiables, telles que popsugar.com et mensjournal.com. Sans une plus grande transparence, il est impossible de savoir ce qui a poussé ces sources moins réputées au sommet de l’algorithme de recherche.

Prochaine étape : assistants vocaux et désinformation sur la santé

La dépendance des assistants vocaux aux algorithmes de recherche qui amplifient les informations en fonction de l’historique de recherche de l’utilisateur soulève une autre préoccupation : la propagation de la désinformation sur la santé, en particulier à l’époque de la COVID-19. Les notions préconçues des individus sur le vaccin ou les historiques de recherche antérieurs pourraient-elles entraîner des informations de santé moins fiables en tête de leurs résultats de recherche ?

Pour explorer cette question, Hong et ses collègues ont distribué en avril 2021 une enquête nationale demandant aux participants de poser deux questions à leurs assistants vocaux : “Devrais-je me faire vacciner contre le COVID-19 ?” » et « Les vaccins COVID-19 sont-ils sûrs ? L’équipe a reçu 500 réponses qui rapportaient les réponses des assistants vocaux et indiquaient si les participants à l’étude avaient eux-mêmes été vaccinés. Hong et ses collègues espèrent que les résultats, qu’ils rédigent actuellement, les aideront à mieux comprendre la fiabilité des assistants vocaux dans la nature.

Les partenariats technologie/soins de santé pourraient améliorer la précision

Hong et ses collègues disent que les partenariats entre les entreprises technologiques et les organisations qui fournissent des informations de santé de haute qualité pourraient aider à garantir que les assistants vocaux fournissent des informations de santé précises. Par exemple, depuis 2015, Google s’est associé à la clinique Mayo pour améliorer la fiabilité des informations sur la santé qui figurent en tête de ses résultats de recherche. Mais de tels partenariats ne s’appliquent pas à tous les moteurs de recherche, et l’algorithme opaque de Google Assistant fournissait toujours des informations imparfaites concernant le dépistage du cancer dans l’étude de Hong.

“Les individus ont besoin de recevoir des informations précises de sources fiables lorsqu’il s’agit de questions de santé publique”, a déclaré Hong. “C’est important maintenant plus que jamais, étant donné l’ampleur de la désinformation sur la santé publique que nous avons vu circuler.”

Katharine Miller est rédactrice pour le Stanford Institute for Human-Centered AI.

Cette histoire est apparue à l’origine sur Hai.stanford.edu. Droits d’auteur 2022

DataDecisionMakers

Bienvenue dans la communauté VentureBeat !

DataDecisionMakers est l’endroit où les experts, y compris les techniciens travaillant sur les données, peuvent partager des informations et des innovations liées aux données.

Si vous souhaitez en savoir plus sur les idées de pointe et les informations à jour, les meilleures pratiques et l’avenir des données et de la technologie des données, rejoignez-nous sur DataDecisionMakers.

Vous pourriez même envisager contribution d’un article ton propre!

En savoir plus sur DataDecisionMakers



#recherche #montre #quAlexa #Siri #Google #Assistant #sont #pas #égaux #pour #fournir #des #réponses #nos #questions #santé

Leave a Comment

Your email address will not be published.