Debemos utilizar los sistemas de automatización e inteligencia artificial de forma que se integren a nuestra realidad manteniendo el juicio humano.
Vi un video de TED-Ed que plantea el dilema ético de la automatización de actividades cotidianas y la programación de decisiones que, hasta ahora, eran o son tomadas por humanos. Me parece que plantea reflexiones importantes que quiero compartir.
El video adapta el conocido “dilema del tranvía” al contexto de los autos autónomos. Entre los escenarios están: chocar contra un objeto que cayó del camión de enfrente, chocar con otro auto o contra un motociclista. El video amplía los escenarios, recomiendo verlo (dura menos de 4 minutos)*.
Cada vez será más común encontrarnos con opciones automatizadas para realizar tareas que antes eran ejecutadas por humanos. Aunque en situaciones de emergencia la capacidad de reacción es mínima y casi inmediata, el ser humano puede recurrir a principios éticos para intentar tomar una decisión que minimice el daño.
Sin embargo, la reflexión que plantea el video, y que debe estar presente en esta nueva era de automatización, es: ¿cómo podemos asegurar que prevalezca la ética en decisiones predeterminadas por programadores, quienes no pueden anticipar todos los escenarios posibles? ¿Y cómo garantizar que las decisiones tomadas por inteligencia artificial, sin intervención humana directa, respondan a valores éticos? Una pregunta que, sin duda, no es fácil de responder, pero que debe ser abordada.
Esta realidad no se limita a procesos industriales o tecnológicos. El uso de inteligencia artificial también presenta dilemas éticos en el campo de las ciencias sociales. En el caso de su aplicación en políticas públicas, por ejemplo, surgen inquietudes sobre los sesgos que pueda tener la IA, así como sobre el uso, la protección y la privacidad de los datos que procesa.
Además del componente técnico, esto también plantea desafíos sociales, legales y políticos: ¿quién asume la responsabilidad cuando una máquina toma una decisión con consecuencias éticas? ¿Debe el gobierno regular el uso de la inteligencia artificial en procesos de automatización?
Es importante que, como profesionales de distintas áreas, sepamos utilizar los sistemas de automatización e inteligencia artificial de forma que se integren a nuestra realidad manteniendo el juicio humano como eje central.
*Nombre del video: Patrick Lin navigates the murky ethics of self-driving cars.
