Mieux vivre avec les algorithmes | Nouvelles du MIT

Sarah Cen, étudiante au Laboratoire des systèmes d’information et de décision (LIDS), se souvient de la conférence qui l’a amenée à répondre à une question précédente.

Dans une conférence sur l’intelligence artificielle éthique, le conférencier a mentionné une variante du fameux problème du chariot, qui décrit un choix philosophique entre deux résultats indésirables.

Scénario du conférencier : Disons qu’une voiture autonome roule dans une ruelle étroite avec une vieille dame marchant d’un côté et un petit garçon de l’autre, et il n’y a aucun moyen de passer entre les deux sans qu’il y ait de décès. Qui la voiture doit-elle heurter ?

Alors l’orateur a dit : Prenons du recul. Est-ce la question que nous devrions nous poser ?

C’est alors que les choses ont cliqué pour Cen. Au lieu de considérer le point d’impact, une voiture autonome aurait pu éviter de choisir entre deux mauvais résultats en prenant une décision plus tôt : l’intervenant a noté qu’en entrant dans la ruelle, la voiture aurait pu déterminer que l’espace était étroit et réduit à une vitesse cela protégerait tout le monde.

Reconnaissant que les approches de sécurité de l’IA d’aujourd’hui ressemblent souvent au problème du chariot, en se concentrant sur une réglementation ultérieure, telle que la responsabilité après que quelqu’un n’a pas de bonnes options, Cen a demandé : Et si nous pouvions concevoir de meilleures garanties en amont et en aval pour de tels problèmes ? Cette question a éclairé une grande partie du travail de Cen.

“Les systèmes d’ingénierie ne sont pas séparés des systèmes sociaux dans lesquels ils interviennent”, déclare Cen. Ignorer ce fait risque de créer des outils qui ne sont pas utiles une fois mis en œuvre ou, plus inquiétant, qui sont nuisibles.

Cen est arrivé au LIDS en 2018 par un chemin légèrement détourné. Il s’est d’abord lancé dans la recherche pendant ses études de premier cycle à l’Université de Princeton, où il s’est spécialisé en génie mécanique. Pour son MSc, il a changé de vitesse et a travaillé sur des solutions radar en robotique mobile (principalement pour les voitures autonomes) à l’Université d’Oxford. Là, elle a développé un intérêt pour les algorithmes d’IA, curieuse de savoir quand et pourquoi ils se comportent mal. Il est donc venu au MIT et au LIDS pour ses recherches doctorales, en collaboration avec le professeur Devavrat Shah du département de génie électrique et d’informatique, pour acquérir une base théorique plus solide dans les systèmes d’information.

Audit des algorithmes des réseaux sociaux

Avec Shah et d’autres collaborateurs, Cen a travaillé sur un large éventail de projets pendant son séjour au LIDS, dont beaucoup sont directement liés à son intérêt pour les interactions entre les humains et les systèmes informatiques. Dans l’un de ces projets, le Cen étudie les options pour réguler les réseaux sociaux. Ses travaux récents fournissent une méthode pour traduire des réglementations lisibles par l’homme en audits réalisables.

Pour avoir une idée de ce que cela signifie, supposons que les régulateurs exigent que tout contenu de santé publique, par exemple sur les vaccins, ne soit pas trop différent pour les utilisateurs ayant des tendances politiques de gauche et de droite. Comment les auditeurs doivent-ils vérifier qu’une plateforme de médias sociaux est conforme à ce règlement ? Une plateforme peut-elle être rendue conforme sans nuire à son résultat net ? Et comment la conformité affecte-t-elle le contenu réel que les utilisateurs voient ?

Concevoir une procédure d’audit est difficile en grande partie parce qu’il y a tellement de parties prenantes lorsqu’il s’agit de médias sociaux. Les auditeurs doivent inspecter l’algorithme sans accéder aux données utilisateur sensibles. Ils doivent également contourner des secrets commerciaux compliqués, ce qui peut les empêcher d’examiner de près l’algorithme qu’ils auditent, car ces algorithmes sont légalement protégés. D’autres considérations entrent également en jeu, telles que l’équilibre entre la suppression de la désinformation et la protection de la liberté d’expression.

Pour relever ces défis, Cen et Shah ont développé une procédure d’audit qui ne nécessite pas plus qu’un accès boîte noire à l’algorithme des médias sociaux (qui respecte les secrets commerciaux), ne supprime pas le contenu (ce qui évite les problèmes de censure) et ne nécessite pas l’accès aux utilisateurs. (ce qui préserve la vie privée des utilisateurs).

Dans leur processus de conception, l’équipe a également examiné les propriétés de leur procédure d’audit et a constaté qu’elle garantit une propriété souhaitable qu’ils appellent la robustesse de la décision. Comme bonne nouvelle pour la plateforme, ils montrent qu’une plateforme peut passer l’audit sans sacrifier les bénéfices. Fait intéressant, ils ont également constaté que l’audit incite naturellement la plate-forme à montrer aux utilisateurs un contenu diversifié, qui est connu pour aider à réduire la propagation de la désinformation, à contrer les chambres d’écho, etc.

Qui obtient de bons résultats et qui de mauvais?

Dans un autre domaine de recherche, Cen examine si les gens peuvent réussir à long terme lorsqu’ils sont non seulement en concurrence pour les ressources, mais qu’ils ne savent pas non plus à l’avance quelles ressources leur conviennent le mieux.

Certaines plateformes, telles que les plateformes de recherche d’emploi ou les applications de covoiturage, font partie de ce qu’on appelle un marché de correspondance, qui utilise un algorithme pour faire correspondre un ensemble de personnes (comme des travailleurs ou des passagers) avec un autre (comme des employeurs ou des conducteurs). ). Dans de nombreux cas, les gens ont des préférences correspondantes qu’ils apprennent par essais et erreurs. Sur les marchés du travail, par exemple, les travailleurs apprennent leurs préférences sur les types d’emplois qu’ils souhaitent, et les employeurs apprennent leurs préférences sur les compétences qu’ils recherchent chez les travailleurs.

Mais l’apprentissage peut être interrompu par la compétition. Si des travailleurs ayant des antécédents particuliers se voient refuser à plusieurs reprises des emplois dans la technologie en raison de la forte concurrence pour les emplois technologiques, par exemple, ils peuvent ne jamais acquérir les connaissances dont ils ont besoin pour prendre une décision éclairée quant à savoir s’ils veulent travailler dans la technologie. De même, les employeurs de la technologie ne verront peut-être jamais et n’apprendront jamais ce que ces travailleurs pourraient faire s’ils étaient embauchés.

Le travail de Cen examine cette interaction entre l’apprentissage et la compétition, étudiant s’il est possible pour les personnes des deux côtés du marché du jumelage de repartir heureux.

En modélisant de tels marchés d’appariement, Cen et Shah ont constaté qu’il est en effet possible d’arriver à un résultat stable (les travailleurs ne sont pas incités à quitter le marché d’appariement), avec peu de regret (les travailleurs sont satisfaits de leurs résultats à long terme), impartialité (le bonheur est équitablement réparti) et bien-être social élevé.

Fait intéressant, il n’est pas évident qu’il soit possible d’obtenir simultanément stabilité, faible regret, équité et bien-être social élevé. Ainsi, un autre aspect important de la recherche était de découvrir quand il est possible d’atteindre les quatre critères à la fois et d’explorer les implications de ces conditions.

Quel est l’effet de X sur Y ?

Cependant, au cours des prochaines années, le Cen envisage de travailler sur un nouveau projet, étudiant comment quantifier l’effet d’une action X sur un résultat Y lorsqu’il est coûteux, voire impossible, de mesurer cet effet, en s’intéressant en particulier aux systèmes qui ont des comportements sociaux complexes.

Par exemple, lorsque les cas de Covid-19 ont augmenté pendant la pandémie, de nombreuses villes ont dû décider des restrictions à adopter, telles que les mandats de masque, les fermetures d’entreprises ou les ordonnances de maintien à domicile. Ils devaient agir rapidement et équilibrer la santé publique avec les besoins de la communauté et des entreprises, les dépenses gouvernementales et de nombreuses autres considérations.

En général, pour estimer l’effet des restrictions sur le taux d’infection, les taux d’infection dans les zones qui ont subi différentes interventions peuvent être comparés. Si un comté a un mandat de masque alors que le comté voisin n’en a pas, on pourrait penser que la comparaison des taux d’infection entre les comtés révélerait l’efficacité des mandats de masque.

Mais bien sûr, aucun comté n’existe dans le vide. Si, par exemple, les gens des deux comtés se réunissent chaque semaine pour regarder un match de football dans le comté sans masque, les gens des deux comtés se mélangent. Ces interactions complexes sont importantes et Sarah prévoit d’étudier les questions de cause à effet dans de tels contextes.

“Nous nous intéressons à la façon dont les décisions ou les interventions affectent un résultat d’intérêt, par exemple comment la réforme de la justice pénale affecte les taux d’incarcération ou comment une campagne publicitaire pourrait changer le comportement du public”, explique Cen.

Cen a également appliqué les principes de promotion de l’inclusion à son travail dans la communauté du MIT.

En tant que l’une des trois coprésidentes du groupe d’étudiantes Graduate Women in MIT EECS, elle a aidé à organiser le premier sommet de recherche GW6 qui présentait des recherches d’étudiantes diplômées, non seulement pour présenter des modèles positifs pour les étudiantes, mais aussi pour souligner les nombreux succès. . Les femmes diplômées du MIT qu’il ne faut pas sous-estimer.

Que ce soit en informatique ou dans la communauté, un système qui prend des mesures pour lutter contre les préjugés est un système qui jouit de la légitimité et de la confiance, déclare Cen. “Redevabilité, légitimité, confiance – ces principes jouent un rôle crucial dans la société et détermineront en fin de compte quels systèmes perdureront dans le temps.”

.

Add Comment