Les récentes discussions de la vitrine Recherche et Développement de l’IIIT Hyderabad (IIIT-H) ont mis en lumière la complexe relation entre les algorithmes, l’éthique et la gouvernance dans le secteur public. Un exemple qui a suscité un vif intérêt était le programme ‘Samagra Vedika’ mis en œuvre par le gouvernement du Telangana, utilisant des algorithmes pour déterminer l’éligibilité et allouer des avantages pour les programmes sociaux. Cette étude de cas souligne le besoin d’un développement et d’un déploiement responsables des systèmes basés sur les algorithmes dans les pratiques gouvernementales.
Un des problèmes souligné par Krishna Ravi Srinivas, professeur associé à l’Université de droit de NALSAR et consultant à RIS, est l’absence d’un cadre complet et d’une compréhension claire des droits et responsabilités du gouvernement lors du développement de schémas basés sur les algorithmes. Il a souligné l’importance de tests appropriés en phase pilote et la nécessité de résoudre les problèmes potentiels. Il est essentiel de veiller à ce que les algorithmes ne portent pas atteinte aux droits constitutionnels tout en permettant une gouvernance efficace.
Les biais et la transparence dans les décisions algorithmiques ont également été soulignés par Tanveer Hasan A K, directeur exécutif du Centre for Internet and Society. Il a souligné la nécessité de prendre en compte les biais tout au long des processus de développement et de mise en œuvre pour éviter de perpétuer les inégalités ou de compromettre l’accès aux droits. La transparence et la responsabilité sont essentielles dans la prise de décision algorithmique pour éviter des influences négatives sur les élections ou des manipulations.
Le Professeur PJ Narayanan, directeur de l’IIIT-H, a exprimé des inquiétudes concernant l’influence négative potentielle des algorithmes et des systèmes d’IA sur les élections. Avec la dépendance croissante aux algorithmes pour la prise de décisions, il est crucial de garantir l’responsabilité, la transparence et l’absence de manipulation.
Alors que la prise de décision algorithmique a le potentiel d’améliorer l’efficacité et de rationaliser la gouvernance, il est essentiel de trouver un équilibre entre les considérations éthiques et les avantages qu’ils offrent. Les gouvernements peuvent exploiter le pouvoir des algorithmes de manière responsable en traitant les biais, en assurant la transparence et en impliquant activement les citoyens dans le développement et le suivi de ces systèmes. Cela conduira à des sociétés plus inclusives et équitables.
Questions Fréquemment Posées (FAQ)
The source of the article is from the blog qhubo.com.ni