Exconductor de vehículos autónomos de Uber: "Esto lo vimos venir"

La primera vez que Ryan Kelley levantó las manos del volante de un auto autónomo de Uber, sintió que era protagonista de un ensayo general del futuro.

Esto sucedió en febrero de 2017, en Pittsburgh, donde Uber había estado probando SUV equipados con tecnología propia de conducción autónoma en las calles públicas durante unos cinco meses. Algunos de los vehículos recogían pasajeros mediante la aplicación regular de Uber, siendo esta la primera vez que los autos sin conductor tenían o generalizado con los consumidores estadounidenses.

Alentado por su hija de nueve años, Kelley había dejado un trabajo de soporte técnico para convertirse en un "operador de vehículos de desarrollo" de Uber, es decir, conductor de apoyo para los nacientes autos-robot. La promesa social de los vehículos autónomos siempre ha sido clara: la adopción de esta tecnología podría algún día evitar decenas de miles de accidentes de tráfico al año. "Ésta era tecnología de vanguardia", dijo Kelley por teléfono la semana pasada. "¿Quién no quiere ser parte de algo así?".

Sin embargo, un peatón ya falleció atropellado por un vehículo autónomo de Uber en Tempe, Arizona, la noche del 18 de marzo. Las imágenes de video del accidente, tomadas desde el interior del auto, muestran que la operadora del vehículo, Rafaela Vásquez de 44 años, estaba mirando hacia abajo con las manos alejadas del volante cuando el automóvil atropelló a Elaine Herzberg, una mujer de 49 años que cruzaba empujando su bicicleta a través de la carretera de siete carriles que, salvo por la presencia del auto de Uber, estaba vacía. El vehículo viajaba a aproximadamente a 40 millas por hora cuando golpeó a Herzberg. Según con informes policiales, no hizo ningún intento de frenar antes de la colisión.

A raíz del accidente fatal, Uber suspendió voluntariamente todos sus programas de prueba y las autoridades estatales han suspendido las pruebas en Arizona . Aunque apenas ha comenzado una investigación formal, está claro que el accidente representa más que otra muerte de un peatón: es el hito que los defensores e investigadores de los vehículos autónomos siempre han temido y destaca las debilidades fundamentales en el desarrollo de esta tecnología emergente.

Una falla involucra a la máquina en sí misma. Los expertos en investigación de vehículos autónomos coinciden en que los sistemas de medición y detección de objetos mediante láser (LiDAR, por sus siglas en inglés) del vehículo Uber deberían haber visto a Herzberg antes de la colisión y que el automóvil debería haber respondido en consecuencia.

Sin embargo, el accidente plantea otra pregunta que es quizás más difícil de responder: si se puede esperar que los humanos funcionen de manera segura como conductores de apoyo para autos semiautónomos en esta etapa de prueba, para Uber o para cualquier otra compañía. La investigación muestra que los humanos siempre serán falibles, sujetos a distracciones y, tal vez, fácilmente seducidos por las máquinas que funcionan (casi siempre) de forma segura.

Además, Kelley y otro exconductor de apoyo entrevistado por CityLab sugirieron que los conductores de seguridad fueron llevados con demasiada premura a las condiciones de prueba de vehículos para los cuales ni ellos ni la tecnología estaban completamente preparados. Kelley y un exoperador de Uber radicado en Tempe (quien habló bajo condición de anonimato debido a un acuerdo de no divulgación) describieron un entorno de trabajo en el que se espera que funcionen a semejanza de las máquinas que estaban cuidando, manteniéndose alerta durante largas horas con poco estímulo a medida que la empresa progresaba en su objetivo de acumular millas.

Tanto Kelley como el exconductor en Tempe fueron despedidos de sus trabajos con Uber a principios de este año por infracciones de seguridad: Kelley dijo que a él lo despidieron luego de pasarse una señal de alto mientras conducía el automóvil, lo cual él niega; el exconductor en Tempe dijo que lo despidieron por usar su teléfono mientras el vehículo estaba en movimiento.

Ese exconductor dijo que había trabajado para el proyecto de autoconducción de Uber desde su lanzamiento en 2016 y expresó su orgullo por las "30,000 a 40,000 millas autónomas y con seguridad" que había registrado. Dijo que lamentaba no seguir trabajando allí. Kelley, sin embargo, sostiene que su despido fue injustificado y expresó amargura al respecto.

Los dos exoperadores coincidieron en que las condiciones en las que alguna vez trabajaron provocaban fatiga y tentaciones peligrosas, como las que hicieron que Vásquez quitara la vista del camino y las manos del volante. Refiriéndose al accidente fatal, Kelley dijo: "Esto lo vimos venir".

A pesar de las suspensiones, Uber prueba su tecnología autónoma de desarrollo en las calles públicas de Pittsburgh, Tempe, Phoenix, San Francisco y Toronto, donde cuenta con aproximadamente 400 conductores de apoyo en aproximadamente 200 vehículos. Esas cifras representan un rápido aumento de las contrataciones enfocadas en Arizona, estado libre de regulaciones en los últimos nueve meses, ya que la empresa ha cambiado el enfoque de sus pruebas.

Dependiendo del día, algunos vehículos aún recogen pasajeros. Pero Uber la orientación degran parte de su flotilla autónoma a la conducción simplemente con la intención de orientar a los operadores hacia "acumular millas y recopilar datos para ayudar a que el sistema sea más confiable", según un artículo del New York Times basado en documentos filtrados de la empresa. Hasta septiembre de 2017, la flotilla autónoma había recorrido un millón de millas en sus ciudades de prueba. Para diciembre de 2017, llegó a los dos millones de millas, y "sumó su siguiente millón a un ritmo aún más rápido, según documentos de la empresa", informó el Times.

La tecnología de autoconducción de Uber ya había tenido dificultades antes del accidente fatal en Tempe, según varios informes publicados. Un reporte interno de rendimiento sobre las pruebas sin conductor de Uber en Arizona mostró que algunos vehículos tenían problemas para avanzar más de una milla sin que un operador se hiciera cargo del volante o frenara, como reportó Priya Anand de Buzzfeed. Durante la semana del 5 de marzo de 2017, los automóviles viajaron un promedio de 0.67 millas en un circuito en Tempe sin intervención humana, y un promedio de 2 millas sin una "mala experiencia", que es el término de la empresa para un incidente "en el que el automóvil frena demasiado fuerte, se mueve bruscamente o se comporta de una manera que puede asustar a los pasajeros", escribió Anand.

Sin embargo, ambos exoperadores con los que CityLab habló dijeron que Vásquez, quien no ha sido acusada, parece ser la principal culpable del accidente. El video de la cámara del tablero muestra que Vásquez mira hacia otro lado de la carretera y hacia su regazo, donde también parecen estar sus manos. La suposición es que, como tantos otros conductores distraídos, Vásquez estaba mirando su dispositivo móvil en lugar de la carretera.

"Ésa era una de nuestras reglas más importantes: no puede haber un teléfono en el asiento izquierdo", dijo el exoperador de Tempe (de hecho, ésta fue la violación que provocó su propio despido). "Su único trabajo era estar allí para supervisar y garantizar que el robot siguiera funcionando de forma segura. Ése era su único trabajo y ella no lo estaba haciendo".

Según un vocero de Uber, los conductores de seguridad se someten a un "vigoroso" programa de capacitación, pruebas y certificación de tres semanas antes de salir a la carretera. En dicho programa, se les entrena para mantener las manos cerca del volante en todo momento para que puedan tomar el control rápidamente cuando el automóvil no responde de manera segura a las condiciones peligrosas del camino o "actores irregulares", como las personas que caminan por las calles. Aunque Uber les permite a los operadores mantener los teléfonos en sus vehículos en caso de emergencias, la compañía tiene una política de tolerancia cero para el uso de dispositivos digitales mientras los vehículos están en movimiento. La compañía monitorea el comportamiento del conductor a través de inspecciones al azar de imágenes de las cámaras interiores, auto reportes y reportes de otros operadores.

Hasta ahora, aproximadamente una decena de operadores han sido despedidos por usar teléfonos celulares en el trabajo, dijo un vocero de Uber.

Detrás del volante, un régimen de prueba entumecedor

El trabajo de un operador de vehículos de desarrollo puede parecer engañosamente fácil. Después de todo, el vehículo está haciendo la mayor parte del trabajo. Pero ambos exconductores lo describieron una rutina agotadora detrás del volante. El trabajo a tiempo completo requiere que los operadores estén alertas al volante durante turnos de 8 a 10 horas, con un almuerzo programado de 30 minutos. A los trabajadores a menudo se les asigna repetir los mismos 'circuitos' en el transcurso de sus turnos, con la intención de familiarizar profundamente la tecnología de conducción autónoma del automóvil con partes de la ciudad que Uber ya ha mapeado.

Estar atento a la calle durante horas y horas mientras un robot aprende a conducir es un trabajo agotador, según los exempleados. La soledad y la monotonía de las rutas repetidas dificultaban mantener la concentración, más que conducir un camión o un taxi por largas distancias. "No hay interacción con otros humanos", dijo Kelley. "Podías escuchar música o estar en silencio". Entre eso, permanecer sentado durante largos recorridos en una sola posición, y los frecuentes frenazos fuertes de los vehículos, la rutina diaria de operar los vehículos mermó su salud, dijo Kelley.

Aunque a los operadores nunca se les dio objetivos de kilometraje, Kelley dijo que se sintió presionado por algunos de sus gerentes para acumular distancia y renunciar a los descansos. El vocero de Uber dijo que a los conductores se les estimula a tomar descansos de 10 a 15 minutos y son libres de hacerlo tanto como sea necesario para evitar la fatiga, sin consecuencias.

Aun así, a medida que mejoraba la tecnología de los vehículos, la tentación de dejar vagar la mente (o de utilizar un teléfono) mientras conducían era mucho más grande, dijeron los exempleados. "Pueden pasar una o dos horas sin tener que tomar el volante", dijo el exconductor de seguridad anónimo, quien dijo que había trabajado en el mismo circuito en Tempe donde ocurrió el accidente fatal. "Piensas, quizás podría apartar la vista del camino, porque si algo sucede, el auto va a reaccionar".

Hubo momentos en que Kelley sintió que no podía confiar en su propia labor en el automóvil. Tras pasar horas en su turno nocturno, dijo, p odía sentir que su atención se desvanecía, sus impulsos se relajaban por la confiabilidad casi constante de la tecnología de conducción autónoma. Eso generó una falsa sensación de seguridad.

El otro operador coincidió. "Uber básicamente le está pidiendo a este operador que haga lo que un robot haría", dijo. "Un robot puede repetir circuitos y no cansarse. Pero los humanos no hacen eso".

Además, muchos conductores de apoyo trabajan solos. Cuando la compañía comenzó a realizar pruebas en Pittsburgh, Uber dotó a sus vehículos autónomos de dos operadores en todo momento. La segunda persona estaba de guardia con una computadora portátil para tomar notas y enviar datos a los ingenieros de Uber. Pero a finales de 2017, la empresa pasó a tener muchos operadores de vehículos en el asiento izquierdo solamente, trabajando solos.

Los dos exempleados con los que CityLab habló dijeron que eliminar al segundo operador humano fue algo prematuro porque esa persona desempeñaba un papel indirecto en mantener la seguridad. Los copilotos no solo representaban una fuente de estimulación para los operadores del 'asiento izquierdo', sino que "vigilaban las aceras para ver si alguien se lanzaba al tráfico", dijo Kelley.

Una portavoz de Uber dijo que el segundo operador había estado allí estrictamente para tomar notas y que su eliminación la fue un paso cuidadosamente considerado en la progresión de la tecnología hacia mayores niveles de autonomía:

No fue y nunca ha sido el papel del operador en el asiento del pasajero mantener la seguridad del vehículo. Ésa es y siempre ha sido la responsabilidad principal y clara del operador detrás del volante.

Aun así, dijo Kelley, el copiloto generaba un beneficio de seguridad, una posibilidad extra de mantenerse alerta y mejores probabilidades de detectar los peligros en la carretera. Desde su perspectiva, incluso aunque la tecnología mejoró, "el automóvil todavía no estaba listo para que se eliminara ese segundo par de ojos".

Cuando falla la 'transferencia'

Ambos exoperadores también expresaron sorpresa de que la tecnología de autoconducción de Uber hubiera fallado. Algo salió muy mal aquí, dijeron: los autos a menudo eran extremadamente sensibles ante las obstrucciones, incluso ante las que no existían. "A veces el auto frenaba a causa del vapor que salía de un bache en el suelo", dijo el operador anónimo.

Los expertos en conducción autónoma están igualmente perplejos. "El LiDAR debería haber visto al peatón a mucha distancia", escribió Raj Rajkumar, quien dirige la investigación de vehículos autónomos en la Universidad Carnegie Mellon, en un correo electrónico. "En general, esto indica problemas técnicos bastante serios en el núcleo del sistema Uber". Velodyne, la compañía que diseñó los sensores LiDAR utilizados por la flotilla autónoma de Uber, dijo a la BBC que estaba "desconcertada" por el accidente .

Flavio Beltrán, un exoperador de vehículos de desarrollo de Uber, filmó de noche el tramo de carretera en Tempe donde ocurrió el accidente bajo condiciones normales de iluminación. El alto contraste en el video del Uber parece hacer que la calles se vea mucho más oscura de lo que es en realidad, señaló en Facebook, donde publicó el video. La calle estaba totalmente iluminada. Después de ver el video, Rajkumar notó que el accidente se produjo en condiciones que deberían haber sido navegables para un automóvil robot.

Aun así, se entiende que la tecnología de Uber no es actualmente capaz de tener una autonomía total. De hecho, es por eso que están ahí los conductores de apoyo. Eventualmente, "nuestro objetivo es poder operar [estos vehículos] sin nadie detrás del volante en ciudades y entornos seleccionados", dijo Jeff Miller, director de desarrollo comercial e iniciativas estratégicas de Uber, a Automotive News Europe en noviembre . Esa etapa de la tecnología es conocida en la industria como autonomía de Nivel 4. Pero lo que Uber está probando en este momento se acerca más al Nivel 3, dijo Miller, "porque hay una persona detrás del volante que está lista para asumir el control si la computadora se equivoca".

Sin embargo, lo que está implícito en esa relación entre el automóvil y el ser humano es lo que los tecnólogos llaman el " problema de la trasferencia" o la expectativa errónea de que la responsabilidad de conducir puede transmitirse con seguridad de máquinas a humanos en una fracción de segundo. Los estudios han demostrado que los conductores humanos pierden rápidamente su capacidad de concentrarse en el camino cuando una máquina hace la mayor parte del trabajo. Como Missy Cummings, directora del Laboratorio de Humanos y Autonomía de la Universidad de Duke, le dijo a Slate , "los humanos somos terribles niñeras de la automatización".

Eso ha llevado a algunos académicos a sugerir que la transferencia representa un problema irresoluble para los desarrolladores que aspiran a llevar los coches al Nivel 3, a pesar de que son más fáciles de construir desde un punto de vista puramente tecnológico. "La noción de que un humano puede ser un apoyo confiable es una falacia", dijo John Leonard al New York Times, profesor de ingeniería mecánica en el Instituto de Tecnología de Massachusetts (MIT) que ha investigado las complejidades casi insondables de la conducción humana.

Otros creen que los conductores de seguridad juegan un papel importante en la enseñanza y el apoyo de los robots cuando se tardan en reaccionar. Pero ese trabajo se vuelve más difícil a medida que los alumnos robots mejoran. Especialmente en condiciones de alta velocidad "es difícil para las personas mantenerse alertas e incluso parte de la memoria muscular que acompaña el control de un auto", dijo J. Christian Gerdes, profesor de ingeniería mecánica de la Universidad de Stanford que ha probado e investigado tecnología de vehículos desde la década de 1990. A medida que mejoran las capacidades de los vehículos, se espera que los humanos hagan más y menos al mismo tiempo, porque se les pide que estén alertas a cualquier falla en cualquier momento.

De alguna manera, los sistemas de autonomía más antiguos eran más seguros, dijo Gerdes, porque no eran tan buenos. Una de las primeras formas de control de crucero adaptativo solo podía detectar objetos en movimiento, recordó, lo que significaba qu e los conductores de apoyo se veían obligados a estar muy atentos cada vez que los vehículos se detenían. "Siempre estuvo claro cuando necesitábamos [estar listos para] intervenir, porque el sistema tenía problemas frecuentemente", dijo.

Puede haber formas en que la tecnología misma mitigue el problema de la transferencia e intervenga para mantener a los humanos alertas en los sistemas de Nivel 3. Rajkumar sugirió que Uber podría instalar cámaras en los autos que garantizaran que los ojos de los operadores estuvieran concentrados en las calles en tiempo real. Gerdes dijo que, en general, las plataformas de comunicación en los vehículos podrían ayudar a enviar señales a los conductores de apoyo cuando necesitaran estar en alerta máxima.

Una persona extra podría haber ayudado a prevenir el accidente fatal de Tempe, dijo Rajkumar: según sus cálculos de velocidad y distancia, la muerte de Herzberg podría haberse evitado si el conductor de apoyo la hubiera visto medio segundo antes. "No hay una segunda persona que brinde un segundo par de ojos; veo que ése es un problema", dijo. Gerdes señaló que parte de su protocolo de seguridad estándar para probar vehículos autónomos (lo cual hace en pistas de prueba, no en vías públicas) es tener siempre una segunda persona en el coche.

Un vocero de Uber dijo que la compañía está explorando posibles cambios en las operaciones de prueba, pero no puede discutirlos hasta que se establezca la causa del accidente de Tempe.

Sin lugar a dudas, Uber y otras compañías se encuentran en una posición desafiante, dijo Rajkumar. Los desarrolladores de vehículos autónomos necesitan kilometraje y datos del mundo real para poder eliminar el uso de conductores humanos eventualmente. Si no hay personas tras el volante de los vehículos de desarrollo, los autos serían claramente más peligrosos; por otro lado, esos operadores, siendo personas, siempre podrán distraerse. Si la sociedad quiere los beneficios de seguridad prometidos que traerían los vehículos totalmente autónomos, "la única opción que tenemos es trabajar en la transición, lenta y constantemente, hasta que la tecnología sea confiable", dijo.

"Lenta y constante" históricamente no han sido características comúnmente asociadas con Uber. El carácter cambiante y disruptivo de la empresa ha definido el crecimiento de sus servicios originales de transporte privado y ahora su carrera hacia niveles más altos de autonomía. En el camino, Uber ha sobrevivido a una serie de escándalos que involucran relaciones (y no limitadas a) reguladores, las fuerzas del orden, la privacidad de los pasajeros y sus competidores; el mes pasado, la compañía llegó a un arreglo en una demanda de alto perfil sobre propiedad intelectual tras el pago de 245 millones de dólares en acciones por parte de Uber a su archirrival Waymo, subsidiaria de tecnología de autoconducción de Alphabet.

Hablando de eso, Waymo ha elegido no desarrollar autos Nivel 3 o semiautónomos, es decir, autos que pueden realizar simples viajes de conducción, como en autopistas, pero que aún necesitan un conductor humano para vigilar el camino y, a veces, tomar el volante (por el ejemplo: el Autopilot de Tesla). Ha estado probando autos autónomos de Nivel 4 sin conductores de apoyo desde noviembre, y ha registrado al menos cuatro millones de millas autónomas durante al menos ocho años de pruebas, con muchas menos intervenciones por milla que Uber.

La portavoz de Uber dijo que "[las millas por intervención] no es una medida de la seguridad general de nuestras operaciones de prueba y no debe interpretarse como tal". En una declaración proporcionada a CityLab, agregó lo siguiente:

Sin embargo, si Uber parece estar impaciente en su búsqueda de un desarrollo de conducción autónoma, eso puede explicarse por el hecho de que la empresa de servicio de viajes privados más grande del mundo, lanzada en 2011 y valuada en 72,000 millones de dólares, aún no es rentable. Eliminar los gastos considerables que representan los aproximadamente 600,000 conductores que contrata en Estados Unidos puede ser el mejor camino hacia la rentabilidad de la compañía: podría ayudar a Uber a reducir los costos lo suficiente como para dejar de subvencionar los viajes baratos a pedido que ayudaron a desarrollar su enorme cuota de mercado. El exdirector general de Uber, Travis Kalanick, alguna vez calificó el proyecto de los vehículos autónomos como "existencial" para la supervivencia de la empresa. Dara Khosrowshahi, el actual director general de Uber, presuntamente está convencido de lo mismo. En noviembre, la compañía realizó un pedido de 24,000 SUV de la marca Volvo para acelerar las pruebas y la preparación de los vehículos autónomos para su mercado más amplio de viajes privados .

En otras palabras, existe una diferencia entre Uber y muchos de sus principales competidores en la carrera de la autoconducción: empresas como Waymo, GM y Ford son fabricantes de automóviles que venden vehículos privados o empresas de software que apuestan a que esta tecnología les ayudará a garantizar un puesto en el mercado de la movilidad automatizada del futuro. Uber, por otro lado, puede necesitar que la autoconducción ocurra lo antes posible, a gran escala, para generar ingresos.

Además de destacar las profundas dificultades de depender de los conductores humanos de apoyo, la muerte de la peatona en Tempe también puede señalar los altos riesgos de cualquier empresa que busque agresivamente llevar la tecnología de autoconducción al mercado. Es difícil ver cómo cualquier etapa de prueba o automatización que requiera asistencia humana incluso ocasional no sea vulnerable a las fragilidades de la atención que describieron los expertos y los conductores anteriores. Para Kelley, Uber podría haber hecho más para mitigar esas debilidades.

"Entiendo que el kilometraje es importante para los accionistas", dijo Kelley, que ahora trabaja a tiempo parcial como camarero. "Pero creo que pueden estar presionando demasiado, y demasiado rápidamente".

Este artículo fue publicado originalmente en inglés en CityLab.com