El Gran Cid
Madmaxista
- Desde
- 10 Jul 2017
- Mensajes
- 14.769
- Reputación
- 52.327
El problema radicaría en una base fotográfica con pocas personas negras. Amazon o Google tienen problemas similares
Muchos gurús han advertido acerca de una Inteligencia Artificial que suponga un peligro real para la Humanidad. Bill Gates dijo que el mundo no ha presenciado muchas tecnologías que sean, a la vez, tan prometedoras y peligrosas". Elon Musk fue un paso más allá: "Con la inteligencia artificial estamos invocando al malo". Vale, de acuerdo, no son exactamente científicos. Pues aquí tienen una frase de Stephen Hawking: "La inteligencia artificial puede significar el fin de la raza humana".
La Inteligencia Artificial se está aplicando en innumerables campos de la sociedad, muchas veces sin tener en cuenta los problemas que podría acarrear. Uno más de esos campos es, por supuesto, la automoción, una de las industrias más dinámicas e innovadoras de nuestra sociedad. Pero claro, "el que cacharrea, termina rompiendo" como decían nuestras abuelas y el automóvil no podía estar exento de cometer deslices en su evolución.
El último ha demostrado ser además bastante políticamente incorrecto. Científicos de la Universidad Tecnológica de Georgia -número 24 de entre las 151 universidades estadounidenses en un ranking de calidad establecido por reconocidos estudios del país norteamericano- han llevado a cabo un análisis de los resultados ofrecidos por los sistemas computacionales de reconocimiento visual de los peatones de los llamados ADAS o sistemas autónomos de ayuda a la conducción según el diferente tono de la piel. "El estudio ha sido motivado por muchos ejemplos recientes de cómo los sistemas de reconocimiento visual ofrecen mayores porcentajes de error en ciertos grupos demográficos que en otros".
Y sus conclusiones son desalentadoras por decirlo suavemente: las personas con los tonos de piel más oscuros son reconocidas como tales personas y no como objetos hasta en un 10% menos de ocasiones que las de piel clara según la habitual clasificación de tipos de piel de Fitzpatrick. Unos resultados alarmantes ahora que las pruebas de campo en la vida real comienzan a ser permitidas para la incipiente tecnología de los coches autónomos, sobre todo en Estados Unidos, pero también en otros lugares como algunos distritos en ciudades alemanas, autopistas suecas...
El problema llega cuando los algoritmos del sistema pueden llegar a actuar de forma diferente si el obstáculo que reconocen en su trayectoria es una persona -cuando harán lo posible por evitarla- o un objeto, en cuyo caso el algoritmo quizá "entienda" y evalúe el choque como un "daño menor" para sus pasajeros y para el resto de usuarios de la vía. Además, los resultados ofrecen tasas de error similares con dos diferentes métodos usados por dichos académicos, en los que han tenido en cuenta aspectos como la intensidad de la luz, la altura y complexión física de las personas o la oclusión de las cámaras.
Es más, en los casos en los que el reconocimiento debería ser peor -menos luz, cámaras parcialmente tapadas o peores circunstancias lumínicas- los porcentajes de error tienden a igualarse, mientras que cuando la visibilidad de la persona en mejor, los porcentajes empeoran, muestra de que es otra la causa de los errores de reconocimiento.
OTROS ERRORES SIMILARES EN AMAZON O GOOGLE
El automóvil no es el único caso en el que los sistemas de reconocimiento fallan. La Unión Americana de Libertades Civiles encontró que el sistema de Amazon reconoció erróneamente a miembros del Congreso estadounidense de piel oscura como delincuentes en busca y captura a lo largo de todo el país. Tampoco se libra el de Google, que falló gravemente al tratar de diferenciar personas negras de gorilas hace algún tiempo.
El origen se encuentra en el "aprendizaje" de estos sistemas basado en estadísticas sobre millones de fotografías "interiorizadas" en su memoria. Si las fotos son en un elevado porcentaje de personas blancas, el resultado es matemático: el coche las reconocerá mejor. Incrementar la base fotográfica a la que el sistema reacciona podría ser una forma de evitar el problema. Pero el automóvil tiene además otras ventajas para minimizar e incluso anular ese posible problema y son ventajas con nombre y apellidos y se llaman láser y lídar, técnicas de teledetección que usan la proyección de luz para formarse un mapa en tres dimensiones del mundo.
El último es, sobre todo, la gran esperanza de los coches autónomos debido al elevado nivel de detalle con el que es capaz de "reflejar" lo que sucede en su entorno. También los sistemas de análisis de datos son cada día más rápidos y la informática tendrá un salto cualitativo con la computación cuántica cuya velocidad a la hora de analizar datos es enormemente superior a la que tenemos en la actualidad y, sobre todo porque sus ventajas son especialmente eficientes en el campo del entrelazamiento de datos.
Por todo esto, la "seguridad" superior a la humana que supuestamente ofrece el coche autónomo podría no quedar en entredicho tal y como este estudio refleja. Pero el elevado coste de los sensores -los sistemas basado en cámaras son los más baratos- pone una nota preocupante acerca de si el coche autónomo será finalmente capaz de evitar discriminaciones por el color de la piel.
'Racismo' tecnológico en el coche autónomo: detecta peor a las personas negras
PD:Sin comentarios
Muchos gurús han advertido acerca de una Inteligencia Artificial que suponga un peligro real para la Humanidad. Bill Gates dijo que el mundo no ha presenciado muchas tecnologías que sean, a la vez, tan prometedoras y peligrosas". Elon Musk fue un paso más allá: "Con la inteligencia artificial estamos invocando al malo". Vale, de acuerdo, no son exactamente científicos. Pues aquí tienen una frase de Stephen Hawking: "La inteligencia artificial puede significar el fin de la raza humana".
La Inteligencia Artificial se está aplicando en innumerables campos de la sociedad, muchas veces sin tener en cuenta los problemas que podría acarrear. Uno más de esos campos es, por supuesto, la automoción, una de las industrias más dinámicas e innovadoras de nuestra sociedad. Pero claro, "el que cacharrea, termina rompiendo" como decían nuestras abuelas y el automóvil no podía estar exento de cometer deslices en su evolución.
El último ha demostrado ser además bastante políticamente incorrecto. Científicos de la Universidad Tecnológica de Georgia -número 24 de entre las 151 universidades estadounidenses en un ranking de calidad establecido por reconocidos estudios del país norteamericano- han llevado a cabo un análisis de los resultados ofrecidos por los sistemas computacionales de reconocimiento visual de los peatones de los llamados ADAS o sistemas autónomos de ayuda a la conducción según el diferente tono de la piel. "El estudio ha sido motivado por muchos ejemplos recientes de cómo los sistemas de reconocimiento visual ofrecen mayores porcentajes de error en ciertos grupos demográficos que en otros".
Y sus conclusiones son desalentadoras por decirlo suavemente: las personas con los tonos de piel más oscuros son reconocidas como tales personas y no como objetos hasta en un 10% menos de ocasiones que las de piel clara según la habitual clasificación de tipos de piel de Fitzpatrick. Unos resultados alarmantes ahora que las pruebas de campo en la vida real comienzan a ser permitidas para la incipiente tecnología de los coches autónomos, sobre todo en Estados Unidos, pero también en otros lugares como algunos distritos en ciudades alemanas, autopistas suecas...
El problema llega cuando los algoritmos del sistema pueden llegar a actuar de forma diferente si el obstáculo que reconocen en su trayectoria es una persona -cuando harán lo posible por evitarla- o un objeto, en cuyo caso el algoritmo quizá "entienda" y evalúe el choque como un "daño menor" para sus pasajeros y para el resto de usuarios de la vía. Además, los resultados ofrecen tasas de error similares con dos diferentes métodos usados por dichos académicos, en los que han tenido en cuenta aspectos como la intensidad de la luz, la altura y complexión física de las personas o la oclusión de las cámaras.
Es más, en los casos en los que el reconocimiento debería ser peor -menos luz, cámaras parcialmente tapadas o peores circunstancias lumínicas- los porcentajes de error tienden a igualarse, mientras que cuando la visibilidad de la persona en mejor, los porcentajes empeoran, muestra de que es otra la causa de los errores de reconocimiento.
OTROS ERRORES SIMILARES EN AMAZON O GOOGLE
El automóvil no es el único caso en el que los sistemas de reconocimiento fallan. La Unión Americana de Libertades Civiles encontró que el sistema de Amazon reconoció erróneamente a miembros del Congreso estadounidense de piel oscura como delincuentes en busca y captura a lo largo de todo el país. Tampoco se libra el de Google, que falló gravemente al tratar de diferenciar personas negras de gorilas hace algún tiempo.
El origen se encuentra en el "aprendizaje" de estos sistemas basado en estadísticas sobre millones de fotografías "interiorizadas" en su memoria. Si las fotos son en un elevado porcentaje de personas blancas, el resultado es matemático: el coche las reconocerá mejor. Incrementar la base fotográfica a la que el sistema reacciona podría ser una forma de evitar el problema. Pero el automóvil tiene además otras ventajas para minimizar e incluso anular ese posible problema y son ventajas con nombre y apellidos y se llaman láser y lídar, técnicas de teledetección que usan la proyección de luz para formarse un mapa en tres dimensiones del mundo.
El último es, sobre todo, la gran esperanza de los coches autónomos debido al elevado nivel de detalle con el que es capaz de "reflejar" lo que sucede en su entorno. También los sistemas de análisis de datos son cada día más rápidos y la informática tendrá un salto cualitativo con la computación cuántica cuya velocidad a la hora de analizar datos es enormemente superior a la que tenemos en la actualidad y, sobre todo porque sus ventajas son especialmente eficientes en el campo del entrelazamiento de datos.
Por todo esto, la "seguridad" superior a la humana que supuestamente ofrece el coche autónomo podría no quedar en entredicho tal y como este estudio refleja. Pero el elevado coste de los sensores -los sistemas basado en cámaras son los más baratos- pone una nota preocupante acerca de si el coche autónomo será finalmente capaz de evitar discriminaciones por el color de la piel.
'Racismo' tecnológico en el coche autónomo: detecta peor a las personas negras
PD:Sin comentarios
muchos jovenlandeses tienen el aspecto de un gorilla que ha sido vestido y afeitado estratégicamente. Algunos blancos también, por ejemplo, el gran inventor e industrialista Joseph Whitworth que aunque brillante, tenía el aspecto de un mandril:
