Archivos por Etiqueta: datos

Cuando la inteligencia artificial se convierte en una pesadilla….

En este año 2019 veremos grandes avances en inteligencia artificial (IA), esa capacidad que tienen las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones. Pero a medida que esta tecnología crezca, también crecerán sus desafíos. Por esta razón, Europa ultima sus orientaciones éticas cuya guía final se aprobará en marzo de este año.

Hasta ahora, la IA ha demostrado de sobra su valíaPero también sus errores. Amazon, por ejemplo, dejó de lado a su IA por sexista. El objetivo es que dicha herramienta ayudara a la compañía a seleccionar de una manera más rápida y efectiva a los candidatos que podían formar parte de la compañía. Sin embargo, mostró un sesgo muy claro contra las mujeres porque se educó a la IA con currículos de candidatos recopilados durante una década. Por entonces, la mayoría de los candidatos eran hombres por lo que la tecnología fue entrenada con un claro dominio masculino.

Este mismo error parece repetirse en otras áreas, cuya trascendencia genera una mayor gravedad. Y es que la IA también es utilizada por las autoridades de cualquier país para, por ejemplo, elaborar perfiles de ladrones, asesinos o violadores. El más mínimo error puede, sin embargo, condenar a un inocente.

Los expertos alertan de cómo trabaja el sistema de justicia penal de Estados Unidos, donde un algoritmo puede determinar la trayectoria de la vida de cualquier ciudadano. Cabe reseñar, además, que es el país del mundo que más personas encarcela (a finales de 2016, casi 2,2 millones de adultos estaban recluidos en cárceles y otros 4,5 millones se encontraban en otros establecimientos penitenciarios), algo que preocupa a los políticos.

Ante este panorama, los tribunales estadounidenses han recurrido a herramientas automatizadas para ser más eficientes y seguros. El problema, es que no siempre lo son. Y es que los sistemas de reconocimiento facial diseñados con IA para agilizar los procesos no ofrece las garantías necesarias, tal y como denuncian investigadores y defensores de los derechos civiles, especialmente entre los individuos de piel oscura.

Pero aún peor es la herramienta de evaluación de riesgos: aquella con la que se estima la probabilidad con la que un detenido reincidirá. Su resultado es evaluado por un juez, que determina qué tipo de servicios de rehabilitación debe recibir el detenido o si debe permanecer en la cárcel antes del juicio.

¿Hasta qué punto puede la IA predecir con precisión el comportamiento delictivo de una persona y más teniendo en cuenta que dicha tecnología está entrenada con datos históricos de delitos? «Las poblaciones que históricamente han sido atacadas de manera desproporcionada por las fuerzas del orden público, especialmente las comunidades de bajos ingresos y minorías, están en riesgo de ser abofeteadas con altas puntuaciones de reincidencia», señala «MIT Technology Review». El algoritmo, por tanto, perpetúa los sesgos y se alimenta de datos contaminados.

 

carcel-2-k5xH--620x349@abc (1)

Cientos de páginas vinculadas a Rusia son retiradas por Facebook, por difundir fake news

Facebook ha informado este jueves de que ha retirado cientos de páginas, cuentas y grupos iniciados en Rusia por considerar qeu están implicados en comportamientos que promueven de forma coordinada las noticias falsas y la desinformación.

El jefe de política de ciberseguridad de Facebook, Nathaniel Gleicher, haexplicado en el blog de la red social que la compañía ha descubierto dos operaciones distintas originadas en Rusia, una de ellas activa en varios países del este de Europa y la otra concreta en Ucrania.

La compañía ha indicado que ha inhabilitado 364 páginas y cuentas de Facebook dirigidas por la primera red rusa y que operaba en los países bálticos, en Asia Central, la región del Cáucaso y en el este y centro de Europa. Las páginas estaban relacionadas con empleados de la agencia de noticias Sputnik.

Facebook ha señalado que, gracias a una información revelada por las autoridades estadounidenses, ha podido retirar, además, 107 páginas, grupos y cuentas de Facebook y 41 cuentas de Instagram creadas en Rusia y operadas desde Ucrania. «No hallamos ninguna relación entre estas operaciones, pero usaron tácticas muy similares creando redes de cuentas para engañar a otros sobre quiénes eran y qué estaban haciendo», ha indicado la red social.

1412509297-kuP--620x349@abc

Un centenar de tecnológicas tuvieron acceso a los mensajes privados de Facebook

Es el segundo año negro de Facebook y no podía acabar la temporada sin otra revelación de importancia. A los sucesivos escándalos hay que sumar otra mancha a su expediente: la red social compartió más datos personales de sus usuarios con empresas tecnológicas como Microsoft, Amazon, Spotify o Netflix de los que se habían dado a conocer hasta ahora, lo que permitió consultar incluso los mensajes privados de los usuarios.

Un hecho que, según ha desvelado «The New York Times» tras analizar documentos internos de la compañía, alcanzó a unas 150 firmas tecnológicas. Lo hizo sin el consentimiento explícito de sus usuarios. Y, para ello, la multinacional presidida por Mark Zuckerberg amplificó aún más su modelo de negocio basado en la publicidad segmentada y personalizada. Lo que realmente pone en duda sus verdaderos esfuerzos en proteger a las personas que dan vida al servicio. Tan solo sus usuarios son un mecanismo para aumentar sus ingresos. No solo vendió sus datos; los regaló.

Facebook, que acumula unos 2.250 millones de usuarios en todo el mundo, autorizó sibilinamente y con el desconocimiento de los usuarios varios modelos de acceso a información: a través de las alianzas con los sistemas operativos móviles, mediante un sistema personalizado en función de los intereres de cada compañía externa y, por último, alianzas temporales para lograr un fin como contribuir al crecimiento de la masa de usuarios de una platafoma. Bing, el conocido buscador de Microsoft, pudiera revisar los nombres de los contactos en la red social. No fue lo único: a los servicios de «streaming» Spotify y Netflix les dejó vía libre a leer los mensajes de los usuarios.

Una medida encaminada a conocer aún más sus gustos y aficiones, que realizó con tres tipos de acuerdos. Un auténtico «Gran Hermano» que viene a echar más leña al fuego. Mientras la red social cerraba el grifo a aplicaciones como las empleadas por Cambridge Analytica, que procesó millones de perfiles para intentar influir en las elecciones presidenciales de 2016, firmaba acuerdos con otras empresas para entrar hasta la «cocina» de su plataforma. Unos acuerdos que han estado vigentes hasta bien entrado 2017 y durante un tiempo en el que ha defendido la privacidad de sus usuarios.

La empresa se defiende

Otro escándalo mayúsculo que vuelve a hacer reflexionar la estructura de monitorización orquestada para conocer todo lo que se pueda de las personas. Este secreto ahora aireado deja entrever que el caso de Cambridge Analytica ha sido pecata minuta en comparación con la cantidad de datos que han tenido los «socios» más importantes de Facebook.

Mediante acuerdos bilaterales secretos, la plataforma permitió, también, que Amazon pudiera consultar sin el permiso de sus usuarios el nombre, información de contacto, entre otras cosas, al igual que dejó a Yahoo. El problema, además, es que estas prácticas sucedieron hace escasamente poco tiempo. La compañía estadounidense ha segurado que no ha encontrado evidencias de abuso por parte de sus socios.

La red social, sin embargo, ha defendido este año que había dejado de permitir a empresas de terceros consultar los datos de sus usuarios después de intentar defenderse de los reiterados escándalos. En respuesta a esta revelación, Steve Satterfield, director de privacidad de Facebook, ha apuntado que ninguno de estos acuerdos «violó los acuerdos de privacidad o los compromisos con los reguladores federales». En la misma línea se ha explicado Konstantinos Papamiltiadis, director de Plataformas y Programas para Desarrolladores de Facebook, que en un comunicado ha insistido en que «ninguna de estas asociaciones o características dio a las compañías acceso a la información sin el permiso de las personas».

Primeras reacciones

Las compañías tecnológicas relacionadas con este caso han empezado a salir al paso de las acusaciones. Una de ellas, Netflix, que ha asegurado a ABC que pese a haber contado con una función (2014) que permitía recomendar programas de televisión y películas a sus amigos de Facebook, en «ningún momento» se accedió a los mensajes privados de la gente en Facebook y «ni pedimos la posibilidad de hacerlo».

Amazon también se ha desmarcado del escándalo al asegurar que solo utiliza los datos proporcionados por esa red social para «habilitar las experiencias de Facebook» en sus productos. «Amazon utiliza las API (interfaces de programación de aplicaciones) proporcionadas por Facebook para habilitar las experiencias de Facebook para nuestros productos. Por ejemplo, dar a los clientes la opción de sincronizar los contactos de Facebook en una tableta de Amazon», ha asegurado la compañía de comercio electrónico en un comunicado. «Utilizamos la información -prosiguió- solo de acuerdo con nuestra política de privacidad».

El Royal Bank of Canada (RBC), también implicado, ha emitido un comunicado en el que señala que «el uso de la plataforma de Facebook fue limitado al desarrollo de un servicio que permitió a los clientes a facilitar pagos a sus amigos en Facebook». La entidad se defiende al explicar: «No tuvimos la capacidad de ver los mensajes de los usuarios. Cancelamos el servicio en 2015 y nuestro acceso limitado, que fue utilizado estrictamente para permitir pagos a nuestros clientes, terminó en ese momento».

«Lo que muchas compañías no se dan cuenta es de que ellos puede que no quieran esos datos más que para “mejorar sus productos y la experiencia de los usuarios”, pero el peligro es que existan y se hayan compartido, hasta que vengan otros no tan bien intencionados, que les den usos mucho peores»

Para Borja Adsuara, jurista experto en derecho digital, esta revelación era vox populi y viene a confirmar la necesidad de considerar si darse de baja en este tipo de redes sociales o, al menos, navegar mediante la función anónima habilitada en algunos navegadores de Google Chrome o Firefox. «Espero que a partir de ahora se empiece a desarrollar otra red, con otras aplicaciones, que respeten la intimidad», apunta a este diario.

«Lo que muchas compañías no se dan cuenta es de que ellos puede que no quieran esos datos más que para “mejorar sus productos y la experiencia de los usuarios”, pero el peligro es que existan y se hayan compartido, hasta que vengan otros no tan bien intencionados, que les den usos mucho peores. Porque poco pasa para lo que podía pasar. Pero es cuestión de tiempo», añade. «enemos el ejemplo del Gobierno chino, con el que están obligadas a colaborar las empresas tecnológicas: chinas y extranjeras, si quieren operar en el apetecible e inmenso mercado chino», sugiere.

35174669-kftE--620x349@abc

¿Cuáles han sido las mayores fugas de datos de la historia?

Google forma parte ya de la historia de los fracasos tecnológicos de 2018. Y todo gracias a su red social Google+, que nunca despegó a pesar de que nació con la intención de ser un digno rival de Faacebook. Pero los de Mountain View ya han desistido. De hecho, la multinacional estadounidense ha decidido adelantar el cierre definitivo de Google+ a abril de 2019, tras haber detectado un nuevo fallo de seguridad que expuso información privada de 52,5 millones de usuarios.

«Con el hallazgo de este nuevo error de software, hemos decidido acelerar la clausura de Google+ de agosto de 2019 (fecha inicialmente prevista) a abril de 2019», ha explicado en el blog de la compañía el vicepresidente de gestión de producto de Google, David Thacker. «Pese a que reconocemos que hay implicaciones para los desarrolladores, queremos garantizar la protección de nuestros usuarios. Hemos empezado el proceso de notificar a los afectados por el fallo», añade.

Los datos personales de los 52,5 millones de internautas que quedaron expuestos a desarrolladores por error (incluso en caso de que el usuario tuviese configurada la cuenta como privada) fueron sus nombres, direcciones de correo electrónico, empleo y edad.

La compañía aseguró no tener constancia de que durante ese tiempo se hubiesen producido robos de información por parte de terceras partes, pero en cualquier caso los datos estuvieron expuestos a lo largo de esas seis jornadas.

Sin embargo, Google no lidera el ranking de las mayores fugas de datos de la historia. Pero sí cierra la clasificación. Y es que los 52,5 millones de usuarios afectados por la brecha de seguridad son «peccata minuta» en comparación con los 3.000 millones de cuentas que fueron hackeadas a Yahoo. Aunque en un principio, el hackeo se situó en 500 millones, la compañía mintió y confirmó después que el robo de datos que sufrió en 2013 afectó a todas sus cuentas.

MySpace, con 427 millones de cuentas afectadas, ocupa el segundo puesto. La red social fue víctima de los ciberdelincuentes en febrero de 2016. Direcciones de emails, nombres de usuario y claves de acceso de cuentas que se crearon antes del 11 de junio de 2013 fueron sustraídas para después ponerlas a la venta.

eBay y LinkedIn ocupan el cuarto y quinto puesto, respectivamente. El primero fue hackeado en mayo de 2014. Los ciberdelincuenten copiaron 145 millones de registros (contraseñas, direcciones de correo electrónico, fechas de nacimiento y otra información personal).LinkedIn, dos años después, vió cómo le robaron los datos de 117 millones de cuentas.

Sony, con el hackeo de la Playstation 3 en 2011; Dropbox, Tumblr y Uber cierran el ranking.

hack-1-kFLB--620x349@abc

El software sanitario de Amazon para recopilar datos de los pacientes, no tendría cabida en Europa

La multinacional estadounidense Amazon anunció este miércoles que ha desarrollado Amazon Comprehend Medicalun software basado en inteligencia artificial que bucea en el historial médico de los pacientespara extraer de forma rápida y organizada la información relevante que necesiten usar los médicos. Su objetivo es permitir a los profesionales de la salud disponer de información de una forma más rápida y con mayor precisión que con el tradicional proceso manual.

El gigante tecnológico asegura que su nuevo servicio procesa «textos médicos desestructurados» e identifica información como «diagnósticos, tratamientos, dosis y síntomas». La herramienta está pensada para que hospitales, aseguradoras, investigadores y empresas farmacéuticas ahorren parte del tiempo y dinero que actualmente se destina a hallar datos puntuales de cada paciente entre los documentos que conforman su historial médico. Los datos se almacenarán en Amazon Web Services.

Aunque de momento se desconoce con exactitud cómo piensa gestionar Amazon todos los datos privados de los pacientes que se almacenarán en la nube, el servicio, en principio, no tiene cabida en Europa porque choca frontalmente con el Reglamento General de Protección de Datos (RGPD), aprobado a principios de este año. Y es que todo apunta a que la intención del gigante de internet es almacenar los datos identificados de los pacientes.

La normativa, en este caso, exige el consentimiento del paciente. De hecho, ya existen condenas a médicos por ver los historiales de pacientes ajenos. «El reglamento actual de protección de datos, con respecto a la salud, prohíbe cualquier tratamiento de datos», recuerda el experto.

El negocio de los datos sanitarios

En esta misma línea opina Frederic Llordachs, médico y confundador de Doctoralia: «Evidentemente, con el RGPD va a ser complicado que lo cumplan al menos de entrada, y como dice un amigo mío, el hecho de que el mayor vendedor de lavadoras del mundo tenga tu historial médico da que pensar. Empaquetar servicios medicos y venderlos por internet es sencillo, de hehco lo haemos ya con ClinicPoint, pero la tentacion de publicitárnoslos puede ser tan grande como para intentar burlar la ley».

Según la compañía, Amazon Web Services no podrá ver los datos que procesan sus algoritmos en la búsqueda de información porque estos están encriptados y su desbloqueo está solo permitido a aquellos clientes que dispongan de una clave. Sin embargo, cabe recordar que todo lo que se comparte en internet en susceptible de ser hackeado. De hecho, los datos sanitarios son más caros en el mercado negro que los bancarios.

«Al final se trata de dar una información muy valiosa a una tercera compañía (empresa farmaceútica, hospital) que seguro que tiene por detrás a una aseguradora muy potente que puede llegar a usar todos esos datos para después vender pólizas de seguros a los pacientes», ejemplifica Parra, quien también alerta de otro problema. «Sería muy peligroso que una máquina decida qué pastilla se tiene que tomar un paciente», añade. Y es que si el software va a ofrecer al doctor un informe médico del estado de salud del paciente, una vez recopilados y analizados todos los datos, es de vital importancia que se informe a la persona afectada. «El reglamento dice que si se va a tomar una decisión en base a un procedimiento realizado de forma automatizada por algoritmos matemáticos, se tiene que informar a la persona afectada. El paciente, incluso, puede impugnar esa decisión que ha tomado una máquina y no un humano, es decir, el profesional de la salud», recuerda el jurista.

No es la primera iniciativa con la que Amazon se mete en el negocio de la salud. «Este servicio de explotar los datos relevantes de las historias clínicas mediante ‘machine learning’ se une a lacompra de Pillpack (servicio de prescripción online) y a la ‘joint venture’ con Berkshire Hathaway y JP Morgan para mejorar la salud de sus empleados. Todas las grandes tecnológicas quieren meterse en salud, pero Amazon parece meterse en terrenos mas realistas y menos “moonshots”», dice Llordachs.

 

hospital-1-kINH--620x349@abc