-->

Evidencias del impacto de la Inteligencia Artificial en la sociedad

El pasado julio, el Parlamento Británico convocó a cualquier persona a aportar su opinión sobre evidencias del impacto de la inteligencia artificial en la sociedad, y sus directrices de regulación. Esta información era recibida por el comité científico sobre IA de dicha institución para su lectura y análisis. Aquí podéis encontrar la convocatoria correspondiente.

Las public calls de este tipo son habituales, y pueden ser de distintas disciplinas y aspectos de la sociedad, tal y como se demuestra en la lista de las últimas convocatorias.


Para el caso que nos ocupa, estas son las propuestas aceptadas, y en esta ocasión, la mía también ha sido admitida. Y es su contenido lo que trataré brevemente en este artículo.





Básicamente, enfaticé mi preocupación y necesidad de regulación hacia tres aspectos muy concretos:

1) La caja negra de los algoritmos y el uso de datos para uso discriminatorio.

2) El panóptico digital.

3) Los hackeos sobre sistemas inteligentes.


1) La caja negra de los algoritmos y el uso de datos para uso discriminatorio

Si pensamos en el momento en el que somos candidatos para una oferta de trabajo, está socialmente aceptado que el responsable de esa empresa nos diga que no somos aptos, sin profundizar demasiado en los detalles que le han llevado a esa decisión. O cuando solicitamos un préstamo a un banco, y nos lo deniegan. Recibimos contestaciones del tipo "el equipo de riesgos no lo ha considerado oportuno", sin entrar en detalle de qué es lo que exactamente ha declinado la balanza en nuestra contra. 

No es aceptable este nivel de ambigüedad en los sistemas inteligentes que pasen a formar parte de nuestras vidas. Si fuera un robot el que elige el ganador en el proceso de selección de un puesto de trabajo, es altamente exigible conocer en qué aspectos se ha fijado, y lo mismo si decidiera sobre nuestro préstamo financiero. En el caso de no ser transparente en la política de decisión de estos sistemas, corremos el riesgo como sociedad de ver atropellados nuestros derechos más básicos, y ser rechazados por nuestra orientación sexual, procedencia, trabajo, u otro aspecto. El término blackbox no es una excusa para todo para no revelar el funcionamiento más general de una máquina que toma decisiones.

Si un mismo sistema inteligente dice que no podemos optar a un préstamo en un banco X, ¿cómo sabemos que tampoco nos permitirá obtenerlo en el banco Y?

Además, este tipo de máquinas inteligentes pueden llegar a hacer diagnósticos médicos, recomendar tratamientos o conducir por nosotros, y por lo tanto, una transparencia sobre los criterios que usa es imprescindible.

El secreto industrial lleva existiendo desde hace mucho tiempo entre nosotros, y a pesar de que hay máquinas totalmente integradas en nuestra vida, como aviones y coches, que no revelan totalmente todo el código que emplean (véase, Dieselgate) sí que hay tests en la industria perfectamente estandarizados para comprobar cómo funcionan esas máquinas bajo una gran variedad de situaciones de funcionamiento. Algo así podría ser aplicable y exigible legalmente para sistemas inteligentes que tengan poder sobre nuestra vida. En este caso, estoy pensando que el algoritmo de recomendación de canciones de Spotify no toma este tipo de decisiones transcendentales, por ejemplo.


2) El panóptico digital
Creo que este aspecto es, de los tres que presenté, el menos tratado en la bibliografía y opinión pública. El panóptico es una idea creada por el filósofo Jeremy Bentham al final del siglo XVIII. El concepto intenta explicar cómo se altera el comportamiento de una sociedad o un colectivo cuando se siente observado. Imaginaos que tuvieráis cámaras en vuestra casa. ¿Os comportaríais de la misma manera?

Los sistemas de control de producción en fábricas son bastante recientes. Se encargan de detectar ritmo de producción, piezas defectuosas, tiempos muertos, etc. Actualmente se habla de fábricas inteligentes, donde muchos brazos robóticos y sensores controlan la producción de toda la fábrica. Ya no hace falta un supervisor que vigile si un equipo de trabajadores se emplea a fondo o no. Basta con sensores, y con aumentar el ritmo al que trabajan los robots y distintos automatismos, tal y como se refleja en la recomendable película Tiempos modernos

Me parece que la inteligencia artificial da un gran salto en esta vigilancia, ya que pone a disposición de los responsables una serie de herramientas y tratamiento de datos masivos muy avanzado. Ahora parece mucho más fácil detectar ineficiencias de trabajadores, o quién es el "manazas" que más piezas estropea, o dónde exactamente se pierde ritmo de producción. 

El panóptico de Bentham defendía que este tipo de vigilancia lleva a una especie de alienación de la gente, y es lo que habría que tener en cuenta para la incorporación de la IA a las fábricas. Creo que en lugar de emplear la información del tratamiento de datos para expulsar a los empleados, se puede usar e incentivar una formación más personalizada, y una adaptación de la disciplina de Prevención de Riesgos Laborales a este nuevo marco tecnológico.


3) Los hackeos sobre sistemas inteligentes
Este punto está relacionado con el primero de mi exposición. El aprendizaje máquina adverso (adversarial machine learning) es una rama de la ciberseguridad que estudia la alteración de señales para el engaño de sistemas inteligentes. Estas señales pueden ser imágenes, texto o audio, y la existencia de este fenómeno fue descubierto a finales de 2010. 

Actualmente, se conocen distintas técnicas de manipulación de imágenes que engañan a cámaras o sistemas inteligentes. Por ejemplo, que alguien con unas gafas de sol con lentes coloreadas no sea identificado, o la alteración pequeña de señales de tráfico para que el coche autónomo no reconozca o confunda la indicación de tráfico. Lo preocupante es que muchos de estos cambios visuales no son percibibles por el ojo humano. En este artículo se muestran algunas alteraciones que cambian totalmente la interpretación de las máquinas.


¿Qué os parecen estas amenazas? ¿Añadiríais alguna más?

Mi charla en Naukas17

Y ya van 6 las charlas que he tenido el honor de impartir en Naukas Bilbao. Este año pude estar muy poco tiempo por el evento, y participé en el NaukasPro explicando qué hacemos en el grupo de investigación de la universidad. Mucha robótica e inteligencia artificial.

Muchas gracias a los asistentes, a las opiniones, y os recomiendo encarecidamente que veáis cualquier charla que os llame la atención del resto de Naukers.





Imagen de @xurxomar

Reseña de El ojo desnudo, de Antonio Martínez Ron

Hace tiempo que no dedico una entrada del blog a escribir una reseña de alguna obra que me haya llamado la atención, pero El ojo desnudo, escrito por el ínclito @aberron, lo ha merecido.



Una breve introducción de lo que trata el libro la podéis encontrar en la web de Amazon, y en el blog del propio Antonio

"El ojo desnudo" es el hilo argumental que ha elaborado el autor para contarnos una gran historia científica a partir de los ojos del físico John Dalton, los cuales estaban olvidados por la historia en un sótano. A partir de estos elementos, Antonio nos cuenta la historia del conocimiento de la estructura del ojo humano, el mecanismo por el que vemos, y experimentos muy curiosos que se han llevado a cabo para llegar a las entrañas del conocimiento. Pero es imposible separar este conocimiento, de otras investigaciones que se desarrollaron en paralelo a lo largo de la historia, entre los que destacan los intrumentos de visión astronómica y conceptos básicos de ondas. 

Cuando terminas el libro, te quedas con la sensación de haber leído miles de ideas, y recuerdas bastantes de ellas de manera agradable. De todas formas, el libro no se compone solo de descripciones, sino principalmente de narraciones que ayudan a implicar al lector en la historia. La redacción es muy cuidada y amena, y el libro se lee bastante rápido. 

En definitiva: un libro muy recomendable para cualquier amante de la ciencia, que no requiere conocimientos previos para ser disfrutado.



¿Qué significa que no entendemos cómo funciona la inteligencia artificial?

Esta semana colaboré en la web de divulgación científica Mapping Ignorance con el tema que indico en el título. 

Hay cada vez más noticias de investigadores prestigiosos que afirman que la inteligencia artificial funciona, pero no entienden el proceso que se sigue internamente en el algoritmo para llegar a la solución. Algunas noticias son 1, 2, 3, 4, 5 y 6

En el artículo original, aunque esté en la lengua de Shakespeare, intento explicar lo más claramente posible qué significa eso. Se entiende enseguida. Pero eso no lleva a que estemos desarrollando sin saberlo un Terminator, ¡no os preocupéis!

Sin más dilación, aquí tenéis el artículo. ¡Buen domingo!




Un poco de estadística y fútbol

A las puertas del comienzo de una nueva Liga de Fútbol, aquí va un pequeño artículo sobre estadísticas y alguna curiosidad que quizás os hayáis planteado: ¿cómo se representan las estadísticas de los jugadores durante la temporada (por ejemplo, pases con éxito o tiros a puerta)?

Tomemos como ejemplo los tiros a puerta. Según esta página web, el total de tiros de Messi a lo largo de la pasada temporada fue de 131, de los cuales 77 fueron tiros a puerta. Es decir, un 58'78%. Ahora bien, pensemos en el comienzo de la Liga 2017/18. ¿Qué ocurre cuando el jugador hace su primer tiro? ¿Si va a puerta, tendría una efectividad de 100%? ¿Y si falla, del 0%? ¿No es esto un poco drástico? ¿Significa esto que Messi va a quedarse toda la temporada probablemente en un valor de alrededor de 0 ó 100% de efectividad de tiros a puerta? 

¡Claro que no! Pero eso es porque partimos de información previa, y es el conocimiento de las estadísticas de Messi más o menos al finalizar las temporadas, y eso en estadística tiene mucho sentido y en inglés se le denomina prior. Vayamos paso a paso.

Para los tiros a puerta viene muy bien una herramienta que ya vimos en un post anterior, y es la distribución binomial Beta, que oscila entre (0, 1) y está determinada por los parámetros α y β.

Para el caso de los tiros a puerta habituales de un jugador, vamos a imaginar que al final de la temporada, la mayoría de jugadores tienen una efectividad del 27% respecto al total de tiros. Esto equivale a una α =  81 y  β =219.


Ahora mismo, esa distribución sería la siguiente:



En principio, la probabilidad inicial de cualquier jugador (incluído Messi) de acertar tiros a puerta es este, obtenido a partir de los datos de todos los jugadores a lo largo de la temporada pasada. Ahora, ¿qué ocurre cuando Messi realiza el primer tiro de la temporada en el primer partido de Liga? Actualizamos la función binomial Beta de la siguiente manera:

Beta(α + aciertos, β + fallos).

Es decir, si el tiro iba a puerta, es un caso de éxito, y tendríamos la nueva Beta (81 + 1, 219), y esa función dibujada sería la siguiente:

Los cambios son apenas perceptibles entre una gráfica y otra, pero los ha habido. Es normal que ocurra esto, ya que significa que un tiro no altera apenas las estadísticas globales de un jugador a lo largo de la temporada.

Pero según se van acumulando los tiros, se nota aún más. Pongamos que el jugador hace 300 tiros en una temporada, de los cuales a puerta van 100. Tendríamos Beta (81+100, 219+200):


Ahora sí que se notan cambios aparentes. Y además, la distribución se ha estrechado, debido sobretodo a que la probabilidad de acierto de Messi a lo largo de la temporada ha sido bastante baja.




Nota
Los valores iniciales de α = 81 y β = 219 se obtienen a partir de la siguiente fórmula:




El artículo está basado en este hilo de Stackexchange.



https://stats.stackexchange.com/questions/47771/what-is-the-intuition-behind-beta-distribution

Razones para no perderse Naukas Bilbao 2017

- Naukas Bilbao es un acontecimiento referente de divulgación científica, en el que se combina ciencia + humor en charlas de aproximadamente 10 minutos.

- Este año será más grande que nunca: el evento se celebrará en el Palacio Euskalduna de Bilbao. Un escenario espectacular.

- Ya nadie se quedará sin sitio ni poder entrar. ¡El nuevo aforo es de 2.000 personas! Ni tampoco tendréis que hacer las largas colas que se han visto en las ediciones pasadas.

- Cada vez se van incorporando a la familia Naukas más ponentes, cada uno con un tema distinto y que seguro que os atraerá (biología, física, astronomía, matemáticas, derecho, informática, antropología, química, ingeniería...).

- Este año volvemos a contar con Naukas Kids: ciencia y talleres para los más pequeños.

- Volverán a haber sorpresas, científicos de prestigio internacional y entrevistas interesantes.

- Ya vamos por la séptima edición. ¡Cada vez el evento sale mejor! 

- El público que asiste, ¡normalmente otro año repite!

- La asistencia al evento es totalmente gratuita.
 

Recordad, entre el 14 y el 17 de septiembre tenéis un evento en la agenda
Aquí podéis consultar el programa provisional.









 
Design by Free WordPress Themes | Bloggerized by Lasantha - Premium Blogger Themes | Best Web Hosting