Mois Navon es el ingeniero israelí que logró descifrar el cerebro de los vehículos autónomos. De visita en Buenos Aires, el experto ofrece una mirada poco habitual sobre la IA, ya que se cruza con la ética, el futuro del trabajo y los límites de la conducción automatizada. En diálogo con Clarín, explicó por qué programar una máquina para que decida es, ante todo, una encrucijada filosófica.

Nacido en California y graduado en Ingeniería Informática por la UCLA, Navon comenzó su carrera en el Laboratorio de Propulsión a Chorro de la NASA, donde programó el simulador del programa antimisiles "Guerra de las Galaxias". Antes de sumarse a la industria automotriz, desarrolló compresión de imágenes, un sistema de detección de cáncer y pantallas a pedido para aviones comerciales.

En el año 2000, tras el derrumbe de las puntocom, un colega le sugirió probar suerte en una startup de gran potencial que operaba en el barrio jerosolimitano de Ramot. Esa empresa era Mobileye y Navon se incorporó como miembro fundador del equipo de ingenieros. Su misión fue convertir los algoritmos de visión artificial en un chip autónomo que se pudiera integrar a cualquier vehículo.

Así, diseñó la familia de procesadores EyeQ, un sistema en un solo chip (SoC) que constituye el cerebro de la conducción asistida y autónoma. Esa tecnología permitió a Mobileye convertirse en referente mundial del sector. En 2017, Intel adquirió la firma por 15.300 millones de dólares, la mayor compra de una tecnológica israelí hasta entonces, según registraron Reuters y Forbes.

"Las primeras generaciones de EyeQ se diseñaron para ejecutar reglas físicas y modelos deterministas. Pero cuando comprendimos que el sistema debía resolver situaciones donde un error podía costar vidas, la seguridad dejó de ser un requisito funcional para convertirse en el principio rector de toda la arquitectura", agrega Navon.

Las reglas que guían el futuro

Las pasiones de Navon son la ética y la ingeniería.

En Navon, la ética y la ingeniería no son pasiones separadas. "La ética aplica reglas de conducta a la interacción humana; la ingeniería aplica las leyes de la física al desarrollo tecnológico. A mí me gustan las reglas: Reconciliar los retos prácticos de la ingeniería con los dilemas morales de las máquinas consiste, en el fondo, en ampliar el conjunto de reglas que guían su desarrollo".

Por eso, no se sorprende cuando la conversación gira hacia el interrogante clave: ¿qué responsabilidad recae sobre una máquina cuando una vida depende de su decisión?

"Los vehículos autónomos se programan para salvar vidas; esa es la razón principal de su existencia. El dilema de priorizar a la mayoría frente al individuo tiene argumentos sólidos en ambos sentidos. Por un lado, preservar el mayor número de vidas; por otro, sacrificar a alguien puede violar nuestro deber de no matar. Le corresponde a los gobiernos definir estos marcos morales", señala Navon.

Asesora además a instituciones de alcance global: es consejero de Anthropic, ha expuesto en el Vaticano y se desempeña como asesor nacional del Ministerio de Innovación, Ciencia y Tecnología de Israel en políticas y regulación de IA. Su participación en foros internacionales lo posiciona como puente entre academia, industria y política.

Navon sostiene que el verdadero desafío ya no pasa por lograr que la IA funcione, sino por establecer los estándares y marcos regulatorios que definan cómo debe actuar. A su juicio, cada decisión autónoma debería ser trazable y estar respaldada por responsabilidades técnicas, jurídicas y éticas claramente asignadas.

“Un ejemplo es la norma ISO 26262, que fija requisitos estrictos para el diseño, desarrollo y validación del hardware y el software de sistemas vehiculares, donde una falla puede poner vidas en riesgo. Estos estándares demuestran que la industria puede establecer marcos de responsabilidad técnica mucho antes de que los gobiernos logren traducirlos en legislación”.

Navon es rabino ordenado por la yeshivá Mercaz Harav Kook y doctor en Filosofía Judía, con una tesis sobre la moral de la IA. La imagen de los dioses que modelan un ser a su semejanza y luego temen ser desplazados por él recorre la literatura desde el Golem hasta Frankenstein. Navon, recupera ese dilema y lo traslada al presente: ¿qué ocurre cuando la criatura deja de necesitar a su creador?

"Creo que las capacidades de la IA superarán a la humana, más pronto que tarde. Los riesgos existenciales son altos. Confío en que lograremos contenerla, aunque viviremos en un mundo distinto cuando todos accedan a la superinteligencia. Es prioritario no renunciar a nuestra humanidad ni sustituir las relaciones por máquinas, ya que perderíamos la capacidad de pensar e interactuar como personas."

Si se deja de cuantificar a las personas por su capacidad productiva ¿qué criterios reemplazarán al valor económico como base de reconocimiento social? Y, sobre todo, ¿quién tendría la autoridad moral o institucional para definirlos?

"El trabajo sufrirá un cambio sísmico. En el corto plazo, muchas tareas serán realizadas por máquinas; en el largo plazo, podrían realizar prácticamente todo. Eso no significa que las personas vayan a perder mérito en su desempeño, sino que se reconocerá que su valor trasciende la producción", expone.

Detrás de esa idea hay una raíz ontológica. Navon suele invocar el concepto judío de tikkun olam, "reparar el mundo", para pensar la IA no solo como avance técnico, sino como herramienta de mejora social.

"Creo que fuimos puestos en la tierra no para producir, sino para evolucionar hacia lo que debemos ser. La inteligencia artificial y las máquinas liberarán tiempo humano, que podremos dedicar a crecer en criterio ético y desarrollo personal, mientras los gobiernos asumen, por imperativo moral, la obligación de redistribuir la riqueza generada por las máquinas".

"La dignidad humana es un valor fundamental que debe considerarse en todo desarrollo tecnológico, aunque no siempre sea el valor supremo. Si es necesario aplicar fuerza para evitar la destrucción de una ciudad, la vida de sus habitantes prevalece sobre la dignidad del agresor", plantea Navon.

Esa dignidad, aclara, adopta matices según el ámbito en que se aplique: en el mercado se traduce en respeto mutuo; en el campo de batalla, en valentía para defender la nación, tratando al enemigo como una amenaza a neutralizar, sin incurrir en crímenes de guerra.

Entre chips que aprenden a distinguir un peatón de una sombra y textos milenarios que ya se preguntaban por los límites del poder humano, Navon insiste en una misma convicción: la tecnología solo tiene sentido si permanece al servicio de la vida.

La IA con futuro humano

El jefe de Gobierno, Jorge Macri, conversa con Mois Navon.

Durante su visita a Buenos Aires, Mois Navon compartió su visión en el Parque de Innovación. Junto al jefe de Gobierno, Jorge Macri, analizó el futuro de los vehículos autónomos y habló sobre una IA alineada con el bienestar humano, en un evento que promovió el debate sobre equidad tecnológica.

El encuentro, respaldado por la Embajada de Israel, Softpowers Connections y la UTN, reunió a autoridades, empresarios, referentes tecnológicos, universidades, startups e instituciones de innovación. Yamil Santoro, director del Parque, destacó que figuras como Navon enriquecen la conversación en la ciudad.

“El desafío es conectar a la Argentina con quienes transforman la tecnología”, explicó Santoro. El espacio fomentó el intercambio entre desarrolladores, pensadores y tomadores de decisiones que definirán el futuro tecnológico en los próximos años.

SL