Rosalind Abdool

Workshop

DESCRIPTION OF SESSION

Artificial Intelligence (AI) is an emerging field with a plethora of ethical challenges. Given the lack of significant guidance in terms of regulation, Research Ethics Board’s (REB) are left to determine the ethical issues and risks associated with AI research. Additionally, as with many emerging technologies and practice, the identification and management of ethical issues often lag behind the pace of development. AI is expanding rapidly within healthcare and is being applied across a wide range of programs and areas. As such, THP REB identified significant gaps in both resources available and REB reviewer’s foundational AI knowledge needed to perform comprehensive and appropriate ethics reviews. REB reviewers often face challenges identifying which additional questions to ask, and which questions may not be applicable given the type of research being conducted and the stage of the AI life cycle. To address this gap, THP sought to develop an independent REB specializing in AI research ethics review.

Through the development of a novel AI focused REB, the REB has sought to deepen its overall knowledge of AI, and to develop a robust awareness of the types of ethical issues that can arise at all stages in the life cycle of AI research. Through engagement with AI researchers, other REBs and REB members, and AI Ethics experts, THP’s REB is in the process of finalizing several resources and tools, including an AI-specific reviewer guide for our reviewers, to support robust, ethical and proportionate review of AI research.

***

L’intelligence artificielle (IA) est un domaine émergent qui soulève une multitude de défis éthiques. En l’absence de directives réglementaires significatives, il incombe aux comités d’éthique de la recherche (CER) de déterminer les enjeux éthiques et les risques associés à la recherche en IA. De plus, comme c’est souvent le cas avec les technologies et les pratiques émergentes, l’identification et la gestion des enjeux éthiques sont souvent à la traîne par rapport à l’évolution du domaine. L’IA connaît une expansion rapide dans le secteur de la santé et est mise en œuvre dans un large éventail de programmes et de domaines. De ce fait, le CER de THP a identifié des lacunes importantes tant au niveau des ressources disponibles que des connaissances fondamentales en IA dont disposent les évaluateurs du CER pour mener des évaluations éthiques complètes et appropriées. Les évaluateurs du CER ont souvent du mal à déterminer quelles questions supplémentaires poser et quelles questions ne sont pas pertinentes compte tenu du type de recherche menée et du stade du cycle de vie de l’IA. Pour combler cette lacune, THP a cherché à mettre en place un CER indépendant spécialisé dans l’évaluation de l’éthique de la recherche en IA.

Grâce à la mise en place de ce comité d’éthique novateur axé sur l’IA, le comité a cherché à approfondir ses connaissances générales en matière d’IA et à développer une solide compréhension des types de questions éthiques pouvant se poser à toutes les étapes du cycle de vie de la recherche en IA. Grâce à sa collaboration avec des chercheurs en IA, d’autres CER et leurs membres, ainsi que des experts en éthique de l’IA, le CER de THP est en train de finaliser plusieurs ressources et outils, notamment un guide d’évaluation spécifique à l’IA destiné à nos évaluateurs, afin de soutenir une évaluation rigoureuse, éthique et proportionnelle de la recherche en IA.