NOTICIAS

Carta de derechos de inteligencia artificial

El documento describe cómo se debería proteger al público de los sistemas algorítmicos y los daños que estos pudieran producir.

Por el Lcdo. Rafael Rodríguez-Muriel (Ferraiuoli LLC)

El 4 de octubre de 2022, la Casa Blanca publicó un «blueprint» para una Carta de Derechos de Inteligencia Artificial. En la misma, la Casa Blanca describe cómo se debería proteger al público de los sistemas algorítmicos y los daños que estos pudieran producir, ya sea un algoritmo de reclutamiento que favorece currículums/resumés de hombres sobre los de las mujeres; o un algoritmo hipotecario que discrimine contra las personas latinas y afroamericanas.

Descarga y lee el documento

La carta de derechos establece cinco protecciones a las que el público debe tener derecho, a saber:

  1. La inteligencia artificial (“IA”) debe ser segura y efectiva. Los sistemas automatizados no deben diseñarse con la intención o la posibilidad razonablemente previsible de poner en peligro la seguridad de una persona o la seguridad de la comunidad. Deben estar diseñados para proteger a las personas de daños derivados de usos o impactos no deseados, pero previsibles, de los sistemas automatizados.
  2. Protecciones de discriminación algorítmica. Los sistemas automatizados no deben ser diseñados de manera que resulte en la discriminación de ciertos grupos. La discriminación algorítmica ocurre cuando los sistemas automatizados contribuyen a un trato diferente injustificado que desfavorece a las personas por condición de su raza, color, etnia, sexo, religión, edad, origen nacional, discapacidad, condición de veterano, información genética o cualquier otra clasificación protegida por la ley. Los diseñadores de sistemas automatizados deben tomar medidas para proteger a las personas y las comunidades de la discriminación algorítmica y usar y diseñar sistemas de manera equitativa.
  3. La inteligencia artificial no debe violentar la privacidad de datos. Los usuarios de sistemas automatizados deben estar protegidos contra prácticas abusivas de datos a través de protecciones integradas y deben tener injerencia sobre cómo se utilizan sus datos. Los sistemas automatizados deben solicitar el permiso del usurario y respetar sus decisiones con respecto a la recopilación, el uso, el acceso, la transferencia y la eliminación de los datos.
  4. Aviso y explicación. Los usuarios deben saber si la inteligencia artificial está siendo utilizada; y comprender cómo y por qué un resultado que lo afecta fue determinado por un sistema automatizado.
  5. Alternativas humanas, consideración y respaldo. Los usuarios de sistemas automatizados deben poder optar por no participar con la inteligencia artificial; y poder hablar con un humano cuando se encuentre con un problema utilizando el sistema automatizado.

Con estas protecciones se busca reducir cualquier impacto negativo que la inteligencia artificial pueda tener con respecto al uso de sistemas automatizados, especialmente cuando estos sistemas tengan el potencial de impactar significativamente los derechos, oportunidades, o acceso de una persona a recursos o servicios críticos. El tiempo dirá cuán efectiva son estas protecciones.