En los últimos días, se han dado casos en donde el altavoz inteligente, Alexa, se había encendido y grabado información sin una orden anterior, es decir, por error. Esto ha provocado que empleados de Bloomberg, empresa que se encarga de revisar y transcribir conversaciones aleatorias de los usuarios con el objeto de mejorar el servicio de Alexa, hayan tenido acceso a discusiones y datos bancarios e, incluso, lo que aparentó ser un caso de agresión sexual.
No obstante, el personal entrevistado de Amazon , la empresa que creó la aplicación, asegura que, pese a lo que ocurre, la privacidad siempre se mantiene intacta, es decir, el nombre y los datos se mantienen en secreto, aunque se guardan datos como el número de serie de dispositivo.
Ahora la cuestión es, ¿puede la inteligencia artificial "interesarse" por lo que pueda estar sucediendo, o es solo una falla en el sistema? ¿Podrá alguna vez superar a la mente humana, generar respuestas no programadas por ellos?
domingo, 21 de abril de 2019
lunes, 15 de abril de 2019
Principios éticos de la Unión Europea para desarrollar la inteligencia artificial
La Comisión Europea presentó el lunes pasado sus principios éticos para el desarrollo de la inteligencia artificial en la Unión Europea.
Los objetivos son conseguir beneficios para toda la sociedad, respetando la privacidad de los datos y protegiéndose frente a previsibles errores y ataques, el respeto a la dignidad humana, la democracia, la igualdad, el Estado de derecho y los derechos humanos entre otros.
Basándose en esto se han desarrollado 7 principios en los que se fundamentará el desarrollo de la inteligencia artificial:
1º_ Debe ser supervisada por los seres humanos.
2º_ Los sistemas deben ser resistentes ante el pirateo.
3º_ Se debe de garantizar la privacidad de los datos de los ciudadanos en todo el ciclo vital de la inteligencia artificial.
4º_ La IA debe de ser transparente, lo que supone poder reconstruir cómo y por qué se comporta de una determinada manera y quienes interactúen con esos sistemas deben de saber que se trata de inteligencia artificial así como qué personas son sus responsables.
5º_ La inteligencia artificial debe de tener en cuenta la diversidad social desde su desarrollo para garantizar que los algoritmos en que se base no tengan sesgos discriminatorios directos o indirectos.
Los objetivos son conseguir beneficios para toda la sociedad, respetando la privacidad de los datos y protegiéndose frente a previsibles errores y ataques, el respeto a la dignidad humana, la democracia, la igualdad, el Estado de derecho y los derechos humanos entre otros.
Basándose en esto se han desarrollado 7 principios en los que se fundamentará el desarrollo de la inteligencia artificial:
1º_ Debe ser supervisada por los seres humanos.
2º_ Los sistemas deben ser resistentes ante el pirateo.
3º_ Se debe de garantizar la privacidad de los datos de los ciudadanos en todo el ciclo vital de la inteligencia artificial.
4º_ La IA debe de ser transparente, lo que supone poder reconstruir cómo y por qué se comporta de una determinada manera y quienes interactúen con esos sistemas deben de saber que se trata de inteligencia artificial así como qué personas son sus responsables.
5º_ La inteligencia artificial debe de tener en cuenta la diversidad social desde su desarrollo para garantizar que los algoritmos en que se base no tengan sesgos discriminatorios directos o indirectos.
6º_ El desarrollo tecnológico debe de tener en cuenta su impacto social y medioambiental de forma que sea sostenible y ecológicamente responsable.
7º_ La inteligencia artificial y sus resultados deben de rendir cuentas ante auditores externos e internos.
Suscribirse a:
Entradas (Atom)