Anjana Sengar

AI Ethics & Data Advisor, Trillium Health Partners

Anjana Sengar is an investigator with the Institute for Better Health at Trillium Health Partners (THP) and is the current Chair of the THP Research Ethics Board. Anjana received her bachelor of science in pharmacy from the University of Toronto, and completed a PGY1 general practice residency at Mount Sinai Hospital in Toronto. She completed her Doctor of Pharmacy Degree from the University of Colorado and is currently pursing a Masters in Population Health Management. She is a preceptor and research supervisor for students in the Leslie Dan Faculty of Pharmacy and Mississauga Academy of Medicine. She is published in the area of pharmacy practice and was the 2022 recipient of the Canadian Society of Hospital Pharmacists Dan Dasko Pharmacy Administrator Award.
—
Anjana Sengar, titulaire d’une maitrise en santé des populations de l’Université Johns Hopkins, supervise le portefeuille de recherche du département de pharmacie de THP. Impliquée en éthique de la recherche, elle vient de terminer son deuxième mandat de trois ans comme présidente du CER de THP, et est maintenant conseillère en éthique de l’IA et gestion des données au sein du service des opérations de recherche. Anjana est certifiée par l’American Board of Artificial Intelligence in Medicine et a depuis récemment le titre de Certified AI Ethics Officer. Elle milite pour une adoption responsable des solutions d’IA en santé et s’intéresse tout particulièrement au rôle de la supervision humaine dans les systèmes d’IA.

All Sessions by Anjana Sengar

  • Tuesday, June 16


  • 11:00  - 12:15
    Workshop

    DESCRIPTION OF SESSION

    Artificial Intelligence (AI) is an emerging field with a plethora of ethical challenges. Given the lack of significant guidance in terms of regulation, Research Ethics Board’s (REB) are left to determine the ethical issues and risks associated with AI research. Additionally, as with many emerging technologies and practice, the identification and management of ethical issues often lag behind the pace of development. AI is expanding rapidly within healthcare and is being applied across a wide range of programs and areas. As such, THP REB identified significant gaps in both resources available and REB reviewer’s foundational AI knowledge needed to perform comprehensive and appropriate ethics reviews. REB reviewers often face challenges identifying which additional questions to ask, and which questions may not be applicable given the type of research being conducted and the stage of the AI life cycle. To address this gap, THP sought to develop an independent REB specializing in AI research ethics review.

    Through the development of a novel AI focused REB, the REB has sought to deepen its overall knowledge of AI, and to develop a robust awareness of the types of ethical issues that can arise at all stages in the life cycle of AI research. Through engagement with AI researchers, other REBs and REB members, and AI Ethics experts, THP’s REB is in the process of finalizing several resources and tools, including an AI-specific reviewer guide for our reviewers, to support robust, ethical and proportionate review of AI research.

    ***

    L’intelligence artificielle (IA) est un domaine émergent qui soulève une multitude de défis éthiques. En l’absence de directives réglementaires significatives, il incombe aux comités d’éthique de la recherche (CER) de déterminer les enjeux éthiques et les risques associés à la recherche en IA. De plus, comme c’est souvent le cas avec les technologies et les pratiques émergentes, l’identification et la gestion des enjeux éthiques sont souvent à la traîne par rapport à l’évolution du domaine. L’IA connaît une expansion rapide dans le secteur de la santé et est mise en œuvre dans un large éventail de programmes et de domaines. De ce fait, le CER de THP a identifié des lacunes importantes tant au niveau des ressources disponibles que des connaissances fondamentales en IA dont disposent les évaluateurs du CER pour mener des évaluations éthiques complètes et appropriées. Les évaluateurs du CER ont souvent du mal à déterminer quelles questions supplémentaires poser et quelles questions ne sont pas pertinentes compte tenu du type de recherche menée et du stade du cycle de vie de l’IA. Pour combler cette lacune, THP a cherché à mettre en place un CER indépendant spécialisé dans l’évaluation de l’éthique de la recherche en IA.

    Grâce à la mise en place de ce comité d’éthique novateur axé sur l’IA, le comité a cherché à approfondir ses connaissances générales en matière d’IA et à développer une solide compréhension des types de questions éthiques pouvant se poser à toutes les étapes du cycle de vie de la recherche en IA. Grâce à sa collaboration avec des chercheurs en IA, d’autres CER et leurs membres, ainsi que des experts en éthique de l’IA, le CER de THP est en train de finaliser plusieurs ressources et outils, notamment un guide d’évaluation spécifique à l’IA destiné à nos évaluateurs, afin de soutenir une évaluation rigoureuse, éthique et proportionnelle de la recherche en IA.

    Workshop

  • Mardi 16 juin


  • 11:00  - 12:15
    Workshop

    DESCRIPTION OF SESSION

    Artificial Intelligence (AI) is an emerging field with a plethora of ethical challenges. Given the lack of significant guidance in terms of regulation, Research Ethics Board’s (REB) are left to determine the ethical issues and risks associated with AI research. Additionally, as with many emerging technologies and practice, the identification and management of ethical issues often lag behind the pace of development. AI is expanding rapidly within healthcare and is being applied across a wide range of programs and areas. As such, THP REB identified significant gaps in both resources available and REB reviewer’s foundational AI knowledge needed to perform comprehensive and appropriate ethics reviews. REB reviewers often face challenges identifying which additional questions to ask, and which questions may not be applicable given the type of research being conducted and the stage of the AI life cycle. To address this gap, THP sought to develop an independent REB specializing in AI research ethics review.

    Through the development of a novel AI focused REB, the REB has sought to deepen its overall knowledge of AI, and to develop a robust awareness of the types of ethical issues that can arise at all stages in the life cycle of AI research. Through engagement with AI researchers, other REBs and REB members, and AI Ethics experts, THP’s REB is in the process of finalizing several resources and tools, including an AI-specific reviewer guide for our reviewers, to support robust, ethical and proportionate review of AI research.

    ***

    L’intelligence artificielle (IA) est un domaine émergent qui soulève une multitude de défis éthiques. En l’absence de directives réglementaires significatives, il incombe aux comités d’éthique de la recherche (CER) de déterminer les enjeux éthiques et les risques associés à la recherche en IA. De plus, comme c’est souvent le cas avec les technologies et les pratiques émergentes, l’identification et la gestion des enjeux éthiques sont souvent à la traîne par rapport à l’évolution du domaine. L’IA connaît une expansion rapide dans le secteur de la santé et est mise en œuvre dans un large éventail de programmes et de domaines. De ce fait, le CER de THP a identifié des lacunes importantes tant au niveau des ressources disponibles que des connaissances fondamentales en IA dont disposent les évaluateurs du CER pour mener des évaluations éthiques complètes et appropriées. Les évaluateurs du CER ont souvent du mal à déterminer quelles questions supplémentaires poser et quelles questions ne sont pas pertinentes compte tenu du type de recherche menée et du stade du cycle de vie de l’IA. Pour combler cette lacune, THP a cherché à mettre en place un CER indépendant spécialisé dans l’évaluation de l’éthique de la recherche en IA.

    Grâce à la mise en place de ce comité d’éthique novateur axé sur l’IA, le comité a cherché à approfondir ses connaissances générales en matière d’IA et à développer une solide compréhension des types de questions éthiques pouvant se poser à toutes les étapes du cycle de vie de la recherche en IA. Grâce à sa collaboration avec des chercheurs en IA, d’autres CER et leurs membres, ainsi que des experts en éthique de l’IA, le CER de THP est en train de finaliser plusieurs ressources et outils, notamment un guide d’évaluation spécifique à l’IA destiné à nos évaluateurs, afin de soutenir une évaluation rigoureuse, éthique et proportionnelle de la recherche en IA.

    Workshop




Share

Anjana Sengar