Informe especial: los trabajadores de Tesla compartieron imágenes confidenciales grabadas por los automóviles de los clientes

LONDRES/SAN FRANCISCO, 6 abr (Reuters) - Tesla Inc asegura a sus millones de propietarios de autos eléctricos que su privacidad "es y siempre será enormemente importante para nosotros". Las cámaras que incorpora en los vehículos para ayudar a conducir, señala en su sitio web, están "diseñadas desde cero para proteger su privacidad".

Pero entre 2019 y 2022, grupos de empleados de Tesla compartieron en privado, a través de un sistema de mensajería interno, videos e imágenes a veces muy invasivos grabados por las cámaras de los automóviles de los clientes, según entrevistas de Reuters con nueve ex empleados.

Algunas de las grabaciones atraparon a los clientes de Tesla en situaciones embarazosas. Un ex empleado describió un video de un hombre acercándose a un vehículo completamente desnudo.

También compartido: choques e incidentes de ira en la carretera. Un video de accidente en 2021 mostró un Tesla conduciendo a alta velocidad en un área residencial golpeando a un niño en bicicleta, según otro ex empleado. El niño voló en una dirección, la bicicleta en otra. El video se difundió en una oficina de Tesla en San Mateo, California, a través de chats privados uno a uno, "como un reguero de pólvora", dijo el ex empleado.

Otras imágenes eran más mundanas, como fotos de perros y señales de tráfico divertidas que los empleados convertían en memes al adornarlas con leyendas o comentarios divertidos, antes de publicarlas en chats grupales privados. Si bien algunas publicaciones solo se compartían entre dos empleados, otras podían ser vistas por decenas de ellos, según varios ex empleados.

Tesla afirma en su "Aviso de privacidad del cliente" en línea que sus "grabaciones de cámara permanecen anónimas y no están vinculadas a usted ni a su vehículo". Pero siete ex empleados dijeron a Reuters que el programa de computadora que usaron en el trabajo podría mostrar la ubicación de las grabaciones, lo que potencialmente podría revelar dónde vivía el propietario de un Tesla.

Un ex empleado también dijo que parecían haberse hecho algunas grabaciones cuando los autos estaban estacionados y apagados. Hace varios años, Tesla recibía grabaciones de video de sus vehículos incluso cuando estaban apagados, si los propietarios daban su consentimiento. Desde entonces ha dejado de hacerlo.

“Pudimos ver el interior de los garajes de las personas y sus propiedades privadas”, dijo otro ex empleado. "Digamos que un cliente de Tesla tenía algo en su garaje que era distintivo, ya sabes, la gente publicaría ese tipo de cosas".

Tesla no respondió a las preguntas detalladas enviadas a la empresa para este informe.

Hace unos tres años, algunos empleados tropezaron y compartieron un video de un vehículo sumergible único estacionado dentro de un garaje, según dos personas que lo vieron. Apodado "Wet Nellie", el submarino Lotus Esprit blanco había aparecido en la película de James Bond de 1977, "The Spy Who Loved Me".

El dueño del vehículo: el presidente ejecutivo de Tesla, Elon Musk, quien lo compró por alrededor de $968,000 en una subasta en 2013. No está claro si Musk estaba al tanto del video o si se había compartido.

Musk no respondió a una solicitud de comentarios.

Para informar esta historia, Reuters contactó a más de 300 ex empleados de Tesla que habían trabajado en la compañía durante los últimos nueve años y estaban involucrados en el desarrollo de su sistema de conducción autónoma. Más de una docena aceptaron responder preguntas, todos hablando bajo condición de anonimato.

Reuters no pudo obtener ninguno de los videos o imágenes compartidos, que los ex empleados dijeron que no habían guardado. La agencia de noticias tampoco pudo determinar si la práctica de compartir grabaciones, que ocurrió en algunas partes de Tesla el año pasado, continúa hoy o qué tan extendida estaba. Algunos ex empleados contactados dijeron que el único intercambio que observaron fue con fines laborales legítimos, como buscar ayuda de colegas o supervisores.

El intercambio de videos confidenciales ilustra una de las características menos destacadas de los sistemas de inteligencia artificial: a menudo requieren ejércitos de seres humanos para ayudar a entrenar a las máquinas para que aprendan tareas automatizadas, como conducir.

Desde aproximadamente 2016, Tesla ha empleado a cientos de personas en África y luego en los Estados Unidos para etiquetar imágenes para ayudar a sus automóviles a aprender a reconocer peatones, letreros de calles, vehículos de construcción, puertas de garaje y otros objetos que se encuentran en la carretera o en las casas de los clientes. . Para lograr eso, a los etiquetadores de datos se les dio acceso a miles de videos o imágenes grabadas por cámaras de automóviles que verían e identificarían objetos.

Tesla ha estado automatizando cada vez más el proceso y cerró un centro de etiquetado de datos el año pasado en San Mateo, California. Pero continúa empleando cientos de etiquetadores de datos en Buffalo, Nueva York. En febrero, Tesla dijo que el personal allí había crecido un 54% durante los seis meses anteriores a 675.

Dos ex empleados dijeron que no les molestaba compartir imágenes y dijeron que los clientes habían dado su consentimiento o que la gente había renunciado hace mucho tiempo a cualquier expectativa razonable de mantener la privacidad de los datos personales. Otros tres, sin embargo, dijeron que estaban preocupados por eso.

"Para ser honesto, fue una violación de la privacidad. Y siempre bromeaba diciendo que nunca compraría un Tesla después de ver cómo trataban a algunas de estas personas", dijo un ex empleado.

Otro dijo: "Me molesta porque las personas que compran el automóvil, no creo que sepan que su privacidad no se respeta... Podríamos verlos lavando la ropa y cosas realmente íntimas. Podríamos ver su niños."

Un exempleado no vio nada malo en compartir imágenes, pero describió una función que permitía a los etiquetadores de datos ver la ubicación de las grabaciones en Google Maps como una "invasión masiva de la privacidad".

David Choffnes, director ejecutivo del Instituto de Ciberseguridad y Privacidad de la Universidad Northeastern en Boston, calificó el intercambio de videos e imágenes confidenciales por parte de los empleados de Tesla como "moralmente reprobable".

"Cualquier ser humano normal estaría horrorizado por esto", dijo. Señaló que la circulación de contenido confidencial y personal podría interpretarse como una violación de la propia política de privacidad de Tesla, lo que podría resultar en la intervención de la Comisión Federal de Comercio de EE. UU., que hace cumplir las leyes federales relacionadas con la privacidad de los consumidores.

Un portavoz de la FTC dijo que no comenta sobre empresas individuales o su conducta.

Para desarrollar la tecnología de vehículos autónomos, Tesla recopila una gran cantidad de datos de su flota global de varios millones de vehículos. La compañía requiere que los propietarios de automóviles otorguen permiso en las pantallas táctiles de los automóviles antes de que Tesla recopile los datos de sus vehículos. "Tus datos te pertenecen", afirma el sitio web de Tesla.

En su Aviso de privacidad del cliente, Tesla explica que si un cliente acepta compartir datos, "su vehículo puede recopilar los datos y ponerlos a disposición de Tesla para su análisis. Este análisis ayuda a Tesla a mejorar sus productos, funciones y diagnosticar problemas más rápido". También establece que los datos pueden incluir "vídeos o imágenes breves", pero no están vinculados a la cuenta de un cliente o al número de identificación del vehículo, "y no lo identifican personalmente".

Carlo Piltz, un abogado de privacidad de datos en Alemania, dijo a Reuters que sería difícil encontrar una justificación legal bajo la ley de privacidad y protección de datos de Europa para que las grabaciones de vehículos circulen internamente cuando "no tiene nada que ver con la provisión de un lugar seguro o protegido". coche o la funcionalidad" del sistema de conducción autónoma de Tesla.

En los últimos años, el sistema de cámara de automóvil de Tesla ha generado controversia. En China, algunos recintos gubernamentales y barrios residenciales han prohibido los Teslas debido a preocupaciones sobre sus cámaras. En respuesta, Musk dijo en una charla virtual en un foro chino en 2021: "Si Tesla usó automóviles para espiar en China o en cualquier otro lugar, nos cerrarán".

En otros lugares, los reguladores han examinado el sistema de Tesla por posibles violaciones de la privacidad. Pero los casos de privacidad han tendido a centrarse no en los derechos de los propietarios de Tesla, sino de los transeúntes que no saben que podrían estar siendo grabados por vehículos Tesla estacionados.

En febrero, la Autoridad de Protección de Datos de los Países Bajos, o DPA, dijo que había concluido una investigación de Tesla sobre posibles violaciones de privacidad relacionadas con el "Modo centinela", una función diseñada para registrar cualquier actividad sospechosa cuando un automóvil está estacionado y alertar al propietario.

"Las personas que pasaban junto a estos vehículos fueron filmadas sin saberlo. Y los propietarios de los Tesla podían regresar y mirar estas imágenes", dijo Katja Mur, miembro de la junta de DPA, en un comunicado. “Si una persona estacionaba uno de estos vehículos frente a la ventana de alguien, podía espiar adentro y ver todo lo que estaba haciendo la otra persona. Eso es una grave violación de la privacidad”.

El organismo de control determinó que no era Tesla, sino los propietarios de los vehículos, quienes eran legalmente responsables de las grabaciones de sus autos. Dijo que decidió no multar a la compañía después de que Tesla dijera que había realizado varios cambios en el modo centinela, incluido el pulso de los faros de un vehículo para informar a los transeúntes que podrían estar siendo grabados.

Un portavoz de la DPA se negó a comentar sobre los hallazgos de Reuters, pero dijo en un correo electrónico: "Los datos personales deben usarse para un propósito específico y los datos personales confidenciales deben protegerse".

SUSTITUCIÓN DE CONDUCTORES HUMANOS

Tesla llama a su sistema de conducción automática Autopilot. Introducido en 2015, el sistema incluía características tan avanzadas como permitir a los conductores cambiar de carril tocando una señal de giro y estacionamiento en paralelo al mando. Para que el sistema funcione, Tesla instaló inicialmente sensores de sonar, radar y una sola cámara frontal en la parte superior del parabrisas. Una versión posterior, presentada en 2016, incluía ocho cámaras alrededor del automóvil para recopilar más datos y ofrecer más capacidades.

La visión futura de Musk es eventualmente ofrecer un modo de "conducción autónoma total" que reemplazaría a un conductor humano. Tesla comenzó a implementar una versión experimental de ese modo en octubre de 2020. Aunque requiere que los conductores mantengan las manos en el volante, actualmente ofrece características como la capacidad de reducir la velocidad de un automóvil automáticamente cuando se acerca a las señales de alto o los semáforos.

Sistema de piloto automático de Tesla

En febrero, Tesla retiró del mercado más de 362.000 vehículos de EE. UU. para actualizar su software de conducción autónoma completa después de que la Administración Nacional de Seguridad del Tráfico en las Carreteras dijera que podría permitir que los vehículos excedan los límites de velocidad y potencialmente causar accidentes en las intersecciones.

Al igual que con muchos proyectos de inteligencia artificial, para desarrollar Autopilot, Tesla contrató etiquetadores de datos para identificar objetos en imágenes y videos para enseñarle al sistema cómo responder cuando el vehículo estaba en la carretera o estacionado.

Tesla inicialmente subcontrató el etiquetado de datos a una organización sin fines de lucro con sede en San Francisco conocida entonces como Samasource, dijeron a Reuters personas familiarizadas con el asunto. La organización tenía una oficina en Nairobi, Kenia, y se especializaba en ofrecer oportunidades de capacitación y empleo a mujeres y jóvenes desfavorecidos.

En 2016, Samasource proporcionó alrededor de 400 trabajadores allí para Tesla, frente a los 20 iniciales, según una persona familiarizada con el asunto.

Sin embargo, para 2019, Tesla ya no estaba satisfecho con el trabajo de las etiquetadoras de datos de Samasource. En un evento llamado Tesla AI Day en 2021, Andrej Karpathy, entonces director sénior de IA en Tesla, dijo: "Desafortunadamente, descubrimos muy rápidamente que trabajar con un tercero para obtener conjuntos de datos para algo tan crítico simplemente no iba a funcionar". es... Honestamente, la calidad no fue sorprendente".

Un antiguo empleado de Tesla dijo sobre las etiquetadoras de Samasource: "Resaltaban las bocas de incendios como peatones... No perdían objetos todo el tiempo. Su nivel de habilidad para dibujar cajas era muy bajo".

Samasource, ahora llamada Sama, se negó a comentar sobre su trabajo para Tesla.

Tesla decidió traer el etiquetado de datos internamente. "Con el tiempo, hemos crecido hasta convertirnos en una (organización) de etiquetado de datos de más de 1000 personas que está llena de etiquetadores profesionales que trabajan muy de cerca con los ingenieros", dijo Karpathy en su presentación de agosto de 2021.

Karpathy no respondió a las solicitudes de comentarios.

Los etiquetadores de datos propios de Tesla trabajaron inicialmente en el área de la Bahía de San Francisco, incluida la oficina en San Mateo. A grupos de etiquetadores de datos se les asignó una variedad de tareas diferentes, incluido el etiquetado de líneas de carriles de calles o vehículos de emergencia, dijeron ex empleados.

En un momento, los Tesla en piloto automático tenían dificultades para salir de los garajes y se confundían al encontrar sombras u objetos como mangueras de jardín. Entonces, se pidió a algunos etiquetadores de datos que identificaran objetos en videos grabados dentro de los garajes. El problema finalmente se resolvió.

En entrevistas, dos exempleados dijeron que en sus tareas laborales normales a veces se les pedía que vieran imágenes de clientes dentro y alrededor de sus hogares, incluso dentro de los garajes.

"A veces me preguntaba si estas personas saben que estamos viendo eso", dijo uno.

"A veces vi algunas cosas escandalosas, ya sabes, como que vi escenas de intimidad pero no de desnudez", dijo otro. "Y definitivamente hubo muchas cosas que no me gustaría que nadie viera sobre mi vida".

Como ejemplo, esta persona recordó haber visto "objetos vergonzosos", como "ciertas piezas de ropa, ciertos artículos de bienestar sexual... y solo escenas privadas de la vida de las que realmente estábamos al tanto porque el automóvil se estaba cargando".

MEMES EN LA OFICINA DE SAN MATEO

Tesla dotó de personal a su oficina de San Mateo con trabajadores en su mayoría jóvenes, de entre 20 y 30 años, que trajeron consigo una cultura que apreciaba los memes entretenidos y el contenido viral en línea. Los ex empleados describieron una atmósfera de libertad en las salas de chat con trabajadores que intercambian bromas sobre las imágenes que vieron mientras etiquetaban.

Según varios exempleados, algunos etiquetadores compartieron capturas de pantalla, a veces marcadas con Adobe Photoshop, en chats grupales privados en Mattermost, el sistema de mensajería interna de Tesla. Allí atraerían respuestas de otros trabajadores y gerentes. Los participantes también agregarían sus propias imágenes marcadas, chistes o emojis para mantener la conversación. Algunos de los emojis fueron creados a medida para hacer referencia a bromas internas de la oficina, dijeron varios ex empleados.

Un ex etiquetador describió compartir imágenes como una forma de "romper la monotonía". Otro describió cómo el compartir ganó la admiración de los compañeros.

"Si ves algo genial que genera una reacción, lo publicas, cierto, y luego, en el descanso, la gente se te acerca y te dice: 'Oh, vi lo que publicaste. Eso fue gracioso'", dijo. este ex etiquetador. "Las personas que fueron ascendidas a puestos de liderazgo compartieron muchos de estos elementos divertidos y ganaron notoriedad por ser divertidos".

Parte del contenido compartido se parecía a los memes en Internet. Había perros, autos interesantes y videos de personas grabadas por cámaras Tesla tropezando y cayendo. También hubo contenido perturbador, como que alguien fuera arrastrado a un automóvil aparentemente en contra de su voluntad, dijo un ex empleado.

Los videos de choques que involucran a Teslas también se compartieron a veces en chats privados en Mattermost, dijeron varios ex empleados. Esos incluyeron ejemplos de personas que manejan mal o colisiones que involucran a personas golpeadas mientras andan en bicicleta, como la del niño, o una motocicleta. Algunos etiquetadores de datos rebobinarían dichos clips y los reproducirían a cámara lenta.

A veces, los gerentes de Tesla tomaban medidas enérgicas contra el intercambio inapropiado de imágenes en los canales públicos de Mattermost, ya que afirmaban que la práctica violaba la política de la empresa. Aún así, las capturas de pantalla y los memes basados ​​en ellos continuaron circulando a través de chats privados en la plataforma, dijeron varios ex empleados. Los trabajadores los compartieron individualmente o en pequeños grupos a mediados del año pasado.

Una de las ventajas de trabajar para Tesla como etiquetadora de datos en San Mateo era la oportunidad de ganar un premio: el uso de un automóvil de la empresa durante uno o dos días, según dos exempleados.

Pero algunos de los afortunados ganadores se volvieron paranoicos al conducir los autos eléctricos.

"Saber cuántos datos son capaces de recopilar esos vehículos definitivamente puso nerviosa a la gente", dijo un ex empleado.

Nuestros estándares: los principios de confianza de Thomson Reuters.

Thomson Reuters

Reportera de investigación global ganadora del Premio Pulitzer con sede en Londres con trabajos que incluyen el fracaso de Facebook para combatir el discurso de odio en Myanmar, el fraude de admisiones universitarias de EE. en Iran. Anteriormente trabajó en The Wall Street Journal y The Philadelphia Inquirer.