MADRID, (Portaltic/EP) – California (Estados Unidos) avanza hacia un marco legislativo que permita a los usuarios optar por no compartir con las empresas información personal que posteriormente se utilice en tecnologías de toma de decisiones automatizadas, incluida la inteligencia artificial (IA).
La Agencia de Protección de la Privacidad de California publicó este lunes un borrador de regulaciones sobre tecnología de toma de decisiones automatizada, dirigido a la protección de la privacidad de los usuarios en el uso de estas herramientas.
En concreto, señala que una tecnología de toma de decisiones automatizada “se refiere a cualquier sistema, software o proceso que procesa información personal y utiliza la computación como la totalidad o parte de un sistema para tomar o ejecutar una decisión o facilitar la toma de decisiones humanas”.
Estas decisiones, recoge, producen “efectos jurídicos o de importancia similar en relación con un consumidor”, es decir, tienen un impacto en las personas, ya que puede determinar el acceso a un préstamos, a una vivienda, incluso a la búsqueda de empleo y a la atención médica o la inscripción en un centro educativo.
Estas se basan, además, en la elaboración de un perfil, también con tecnologías automatizadas y a partir de información personal del usuario, “en particular, para analizar o predecir aspectos relativos al rendimiento laboral, la situación económica, la salud, la preferencias personales, intereses, confiabilidad, comportamiento, ubicación o movimientos”.
El objetivo del borrador es, en esta etapa, promover un debate sobre el uso responsable de la toma de decisiones automatizada, que utiliza tecnologías como la IA, estadísticas y aprendizaje automático, y sobre una legislación que proporcione “barreras de seguridad adecuadas con respecto a la privacidad, incluida la privacidad de los empleados y los niños”.
Recoge, por ejemplo, limitaciones en la toma de decisiones que afecten de manera significativa a la vida de las personas; la elaboración de un perfil de un empleado, estudiante, contratista o solicitante; de consumidores en lugares públicos como centros comerciales, centros médicos o estadios deportivos, o para la publicidad dirigida.
A modo de recomendaciones, propone que las empresas incluyan avisos sobre el uso que hacen de estas tecnologías, para que los consumidores decidan que si optan por no participar o no continuar antes de acceder al servicio.
También que las propias empresas puedan optar por no participar en el uso de estas tecnologías de toma de decisiones automatizadas en casos determinados, que pongan en riesgo la vida o la seguridad. Y la capacidad de acceder a más información sobre como las empresas usan estas tecnologías para tomar decisiones sobre los consumidores.