La Ciencia de Datos y los Principios del Reporte Menlo

 

En el 2015 los empleados de Theranos acusaron a la empresa de borrar información de su tecnología propietaria para hacer que sus datos se vieran más exactos (Jacobs, 2015). Theranos fue un emprendimiento del sector de la salud, que en su momento, llegó a ser valuada en más de diez mil millones de dólares (Tun, 2022), los líderes de la empresa declaraban que su tecnología revolucionaría el mundo; esta consistía en crear un dispositivo con la capacidad de realizar cientos de exámenes con una sola gota de sangre.

El primer incidente reportado fue un caso ocurrido en el año 2013. A un paciente se le ordenó una serie de exámenes de sangre en el equipo de la compañía llamado «Equipo de laboratorio Edison o ("Edison Lab")». El laboratorista asignado encontró problemas que indicaban fallas en la precisión de los resultados. Al reportar este incidente a sus superiores el área de investigación y operaciones llegó al laboratorio y borró la información.

El segundo incidente reportó que un empleado envió un correo —en 2014— a la CEO; en este hizo notar que la compañía «era selectiva» con la información que utilizaba para comparar los resultados del equipo Edison con otros equipos tradicionales. Esto para hacer ver que su información era más precisa.

Los altos directivos de Theranos desmintieron ambas acusaciones, no obstante, en octubre del 2015 la compañía fue acusada legalmente por esta práctica.

El caso de Theranos tiene muchas aristas desde el punto de vista técnico a negocios. En el caso de la gestión de los datos nos hace meditar en una pregunta —para la cuál ya conocemos la respuesta— ¿es ético el método «selectivo» de datos para hacer lucir nuestros datos más precisos?

Los modelos de ciencia de datos utilizan la información suministrada para actividades de entrenamiento. El típico «Basura entra, Basura sale». Cuando se realiza una selección específica de datos se generan sesgos intencionados. Un científico de datos requiere una visión objetiva y evitar manipular los datos para «forzar» el resultado que se desea y no el que es.

Para responder a la pregunta que realizamos con anterioridad podemos pasar el caso de Theranos por los Principios del Reporte Menlo (Bailey, Dittrich, Kenneally, & Maughan, 2012).

El Reporte Menlo —cuyo origen está basado en el Reporte Belmont— está motivado a incorporar los principios básicos que guíen la resolución de problemas éticos que surgen en la investigación y que envuelva a la «información y comunicación tecnológica»; este se fundamenta en cuatro principios:

1. Respeto por las personas: la participación de las personas en una investigación es voluntaria y debe tener un «Consentimiento informado». Tratar a las personas como seres individuales, agentes individuales y autónomos. Hay que mostrar respeto por las personas que no son parte de una investigación, pero que pueden verse afectada por la misma. Respetar a las personas con capacidades diferentes que no pueden tomar decisiones por sí mismas.
2. Beneficencia: No hagas daño. Maximiza los beneficios probables y minimiza el posible daño. Hay que medir el riesgo de daño y el de los beneficios.
3. Justicia: Todas las personas deben tener igual consideración en cómo son tratadas. Los beneficios de la investigación deben ser distribuidos con justicia de acuerdo con las necesidades, esfuerzo, contribución social y mérito. La selección de los sujetos debe ser justa, y la carga debe ser distribuida equitativamente.
4. Respeto por la ley e interés público: comprométete en ser diligente con la ley. Sé transparente con los métodos y con los resultados. Asume la responsabilidad de tus acciones.

Al pasar el caso de Theranos por los cuatro principios del Reporte Menlo termina por sustentar que en efecto hubo falta de ética en la gestión de los datos. 

Si bien es cierto que el caso de Theranos hubo una intención sobre desestimar información para beneficios propios, también esto puede ocurrir de forma involuntaria, pero eso es un tema para otro artículo.

¿Qué opinas del caso de la gestión de datos de Theranos y la aplicación de los Principios del Reporte Menlo?

¿Puedes identificar casos involuntarios?

Fuentes:

Bailey, M., Dittrich, D., Kenneally, E., & Maughan, D. (2012). The menlo report. IEEE Security & Privacy, 10(2), 71-75. Retrieved from https://ieeexplore.ieee.org/abstract/document/6173001

Jacobs, H. (2015). Complaints in bombshell report accuse Theranos of deleting data to make its proprietary technology look more accurate. Business Insider. Retrieved from https://www.businessinsider.com/bombshell-report-alleges-theranos-deleted-data-to-make-technology-look-more-accurate-2015-12?op=1

Tun, Z. T. (2022). Theranos: A Fallen Unicorn. Investopedia. Retrieved from https://www.investopedia.com/articles/investing/020116/theranos-fallen-unicorn.asp