Connect with us

Tecnología

Alarmantes denuncias de los empleados de OpenAI sobre la imprudente carrera por dominio absoluto

Publicado

el

Denuncias de los empleados de OpenAI - Agencia Carabobeña de Noticia - Agencia ACN - Noticias tecnología
Compartir

Un grupo de empleados de OpenAI está denunciando lo que consideran una cultura de imprudencia y secretismo en la empresa de inteligencia artificial de San Francisco, que se apresura a construir los sistemas de inteligencia artificial más potentes jamás creados.

El grupo, que incluye a nueve empleados y ex empleados de OpenAI, se ha reunido en los últimos días en torno a la preocupación compartida de que la empresa no ha hecho lo suficiente para evitar que sus sistemas de inteligencia artificial se vuelvan peligrosos.

Denuncias de los empleados de OpenAI

Los miembros afirman que OpenAI, que comenzó como un laboratorio de investigación sin ánimo de lucro y saltó a la luz pública con el lanzamiento en 2022 de ChatGPT, está dando prioridad a los beneficios y al crecimiento en su intento de crear inteligencia artificial general, o I.A.G., el término industrial para un programa informático capaz de hacer cualquier cosa que pueda hacer un humano.

También afirman que OpenAI ha utilizado tácticas de mano dura para evitar que los trabajadores expresen sus preocupaciones acerca de la tecnología, incluyendo acuerdos restrictivos de no desprestigio que se pidió firmar a los empleados salientes.

“OpenAI está realmente entusiasmada con la creación de la I.G.A., y están corriendo temerariamente para ser los primeros en ello”, dijo Daniel Kokotajlo, antiguo investigador de la división de gobernanza de OpenAI y uno de los organizadores del grupo.

Te puede interesar: Elon Musk confirma que desvió chips de Nvidia destinados a Tesla a sus compañías X y xAI

Pero nada ha calado tanto como la acusación de que OpenAI ha sido demasiado arrogante con la seguridad.

El mes pasado, dos investigadores de alto nivel –Ilya Sutskever y Jan Leike– abandonaron OpenAI bajo una nube de sospechas. El Dr. Sutskever, que había formado parte del consejo de OpenAI y votó a favor del despido del Sr. Altman, había hecho saltar las alarmas sobre los riesgos potenciales de los potentes sistemas de inteligencia artificial. Su marcha fue vista por algunos empleados preocupados por la seguridad como un revés.

También lo fue la marcha del Dr. Leike, que junto con el Dr. Sutskever había dirigido el equipo de «superalineación» de OpenAI, centrado en la gestión de los riesgos de los potentes modelos de inteligencia artificial. En una serie de mensajes públicos anunciando su marcha, el Dr. Leike dijo que creía que “la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes”.

Ni el Dr. Sutskever ni el Dr. Leike firmaron la carta abierta escrita por antiguos empleados. Pero sus salidas impulsaron a otros antiguos empleados de OpenAI a pronunciarse.

“Cuando me inscribí en OpenAI, no lo hice con esta actitud de ‘Vamos a poner las cosas en el mundo y ver qué pasa y arreglarlas después’”, dijo el Sr. Saunders.

Algunos de los antiguos empleados están vinculados al altruismo efectivo, un movimiento de inspiración utilitarista que en los últimos años se ha preocupado por prevenir las amenazas existenciales de la Inteligencia Artificial. Los críticos han acusado al movimiento de promover escenarios catastrofistas sobre la tecnología, como la idea de que un sistema de Inteligencia Artificial fuera de control podría tomar el poder y acabar con la humanidad.

Kokotajlo, de 31 años, se unió a OpenAI en 2022 como investigador de gobernanza y se le pidió que pronosticara el progreso de la inteligencia artificial. No era, por decirlo suavemente, optimista.

En su anterior trabajo en una organización de seguridad de la Inteligencia Artificial, predijo que la Inteligencia Artificial podría llegar en 2050. Pero después de ver lo rápido que mejoraba la I.A., acortó sus plazos. Ahora cree que hay un 50% de posibilidades de que la I.G.A. llegue en 2027, en sólo tres años.

También cree que la probabilidad de que la I.A. avanzada destruya o dañe catastróficamente a la humanidad -una sombría estadística a menudo abreviada como «p(doom)» en los círculos de I.A.- es del 70%.

En OpenAIKokotajlo vio que, aunque la empresa tenía protocolos de seguridad -incluido un esfuerzo conjunto con Microsoft conocido como “consejo de seguridad de despliegue”, que se suponía que revisaba los nuevos modelos en busca de riesgos importantes antes de que se hicieran públicos-, rara vez parecían frenar algo.

Con información de ACN / infobae

No dejes de leer: Capturado “influencer” colombiano que filmaba retos sexuales con estudiantes

Infórmate al instante únete a nuestro canal de Telegram NoticiasACN

Tecnología

Samsung suma fuerzas con IBM para ayudar a centralizar la seguridad móvil de las empresas

Publicado

el

Samsung IBM
Compartir

Samsung Electronics Co., Ltd. anunció el siguiente paso en la evolución de su plan para reimaginar la seguridad de los dispositivos móviles para clientes empresariales en colaboración con IBM.

Disponible a finales de este año, está solución de Samsung integra la inteligencia en el dispositivo de la plataforma de seguridad de dispositivos móviles Samsung Knox en IBM Security ® QRadar ® Suite, una solución de detección y respuesta a amenazas.

La nueva integración está diseñada para brindar a los analistas y profesionales de seguridad una mayor visibilidad de los dispositivos móviles de sus organizaciones a través de una experiencia de “panel de cristal único”; y acelerar su capacidad para responder a las amenazas a lo largo de todo el ciclo de vida de los incidentes, transformando las operaciones empresariales y ayudando al mismo tiempo a garantizar la protección de la privacidad de los usuarios.

Además, el enfoque único de Samsung ayuda a preservar la privacidad al tiempo que proporciona la visibilidad necesaria al Security Operations Center (SOC) para mejorar la inteligencia y la gestión de amenazas.

Cada vez más, los equipos de TI y seguridad de las organizaciones buscan adoptar un marco de Confianza Cero. Samsung Knox brinda a los SOC capacidades diferenciadas para garantizar una visibilidad centralizada de los dispositivos móviles y sus vulnerabilidades y acceso a la detección de amenazas en el dispositivo para alertar a los analistas de seguridad en las primeras etapas de la cadena de ataque.

Samsung Knox también puede permitir acciones automatizadas de respuesta y solución, como la aplicación de parches en dispositivos Knox, mediante la integración con herramientas y flujos de trabajo de SOC.

Los entornos de Security Operations Center (SOC) que utilicen IBM QRadar Suite tendrán acceso a información sobre amenazas en los dispositivos móviles Samsung Galaxy y visibilidad centralizada de las vulnerabilidades.

Los datos aislados de los dispositivos han dificultado la detección y respuesta de amenazas para los equipos de SOC. Esta asociación planea permitir la integración líder en la industria de un proveedor de dispositivos móviles en SOC, mejorando las capacidades de las organizaciones para brindar una mitigación proactiva de riesgos a través de un enfoque de seguridad más coherente.

“Samsung Knox ha sido reconocida constantemente como la plataforma de seguridad de dispositivos móviles líder de la industria debido a nuestro enfoque integral para proteger dispositivos a nivel de hardware y software”.

“Al trabajar con IBM, estamos entusiasmados de extender el poder de la plataforma a los SOC para abordar las amenazas cada vez más complejas que enfrentan las organizaciones en la actualidad”, dijo Brad Haczynski, vicepresidente Senior y gerente General de Mobile B2B, Samsung Electronics América.

“Más que nunca las herramientas de seguridad desconectadas son uno de los mayores desafíos que enfrentan los profesionales de la seguridad”.

Para obtener más información sobre la asociación estratégica de Samsung e IBM, visite samsungknox.com . Los asistentes a la conferencia RSA pueden ver una demostración visitando el stand de Samsung (#2327) ubicado en South Expo Hall de Moscone Center.

 

Con información de nota de prensa

No dejes de leer

La Montserratina fortalece presencia en el mercado con nuevos mini empaques

Infórmate al instante, únete a nuestro canal de Telegram NoticiasACN
Continue Reading

Suscríbete a nuestro boletín

Publicidad

Carabobo

Publicidad

Sucesos

Facebook

Publicidad

Lo más leído