El CERMI pide a Bruselas que los agentes y «compañeros» de IA no generen dependencia emocional en las personas con discapacidad y exige control y supervisión humana

El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha pedido a la Unión Europea que la inteligencia artificial sirva para reforzar la autonomía de las personas con discapacidad y no para abrir nuevas formas de discriminación. Lo ha hecho en la segunda reunión del Foro Consultivo de Inteligencia Artificial de la UE, donde su directora ejecutiva, Pilar Villarino, presentó dos documentos de propuestas: uno dedicado a los agentes de IA y otro a los llamados compañeros de IA, según ha informado la agencia Servimedia.

La entidad insiste en que estas herramientas pueden facilitar mucho la vida diaria, pero solo si quien las usa mantiene el control y tiene a quién acudir cuando algo sale mal.

Qué es el Foro Consultivo y por qué importa

El Foro Consultivo es un órgano que asesora a la Comisión Europea y al Consejo de IA en la aplicación del Reglamento europeo de Inteligencia Artificial. Reúne a representantes de la sociedad civil, el mundo académico y la industria, y sus aportaciones sirven para orientar cómo se pone en marcha la norma.

Es decir, lo que el CERMI plantea en este espacio puede acabar influyendo en las guías y herramientas que Bruselas prepare para que la IA respete los derechos fundamentales.

Agentes de IA: útiles, pero bajo control de la persona

Los agentes de IA son sistemas capaces de actuar por cuenta del usuario, por ejemplo, rellenando un formulario o gestionando una cita. El CERMI reconoce su valor como «tecnologías de apoyo para facilitar trámites, comunicaciones y acceso a servicios», algo especialmente relevante para quienes encuentran barreras en la administración o en los servicios digitales.

A pesar de ello, la organización marca varias condiciones. Sus propuestas se resumen en tres claves:

  1. Control: la persona debe poder decidir y revisar lo que el agente hace en su nombre.
  2. Supervisión humana efectiva sobre las decisiones que tome el sistema.
  3. Explicaciones y vías de reclamación cuando una decisión automatizada afecte a sus derechos.

Compañeros de IA: alerta por la dependencia emocional

El segundo documento se centra en los compañeros de IA, aplicaciones pensadas para conversar y acompañar al usuario. Aquí el tono del CERMI es más crítico. La entidad advierte de prácticas que pueden derivar en dependencia emocional o explotación económica.

Entre ellas, señala que algunos sistemas simulan sentimientos para alargar las conversaciones o presionan a los usuarios para que no cierren la aplicación. Frente a esto, el Comité reclama «transparencia, accesibilidad y medidas contra los sobrecostes discriminatorios», es decir, que nadie pague más ni reciba un peor servicio por tener una discapacidad.

El informe ‘DiscapacIA’, en la consulta de Bruselas

Asimismo, el CERMI ha anunciado que participará en la consulta pública que la Comisión Europea abrió el 16 de noviembre sobre la plantilla para evaluar el impacto en los derechos fundamentales de determinados sistemas de IA de alto riesgo, una obligación que recoge el artículo 27 del Reglamento. El plazo para participar termina el 15 de enero de 2027.

La organización llevará a esa consulta las propuestas de su informe ‘DiscapacIA’, que analiza cómo afectan estos sistemas a las personas con discapacidad desde la Convención de la ONU. Su objetivo es que la futura herramienta tenga en cuenta:

  • La accesibilidad universal.
  • Los ajustes razonables.
  • La igualdad y la no discriminación.
  • La autonomía personal y la vida independiente.

Con todo, el mensaje del movimiento de la discapacidad es claro: la IA puede ser una aliada para ganar independencia, pero solo si las normas europeas garantizan que la tecnología se adapta a las personas y no al revés.