Ajuca

ChatGPT, el modelo de lenguaje de OpenAI para chatbots, no solo produce un código en su mayoría inseguro, sino que tampoco alerta a los usuarios sobre sus deficiencias a pesar de ser capaz de señalar sus defectos. The Register publica: En medio del frenético interés académico en las posibilidades y limitaciones de los grandes modelos de lenguaje, cuatro investigadores afiliados a la Universite du Quebec, en Canadá, han profundizado en la seguridad del código generado por ChatGPT, el bot no inteligente que regurgita texto de OpenAI. En un documento de preimpresión titulado "¿Qué tan seguro es el código generado por ChatGPT?" Los informáticos Raphael Khoury, Anderson Avila, Jacob Brunelle y Baba Mamadou Camara responden a la pregunta con una investigación que puede resumirse como "no muy".

"Los resultados fueron preocupantes", afirman los autores en su artículo. "Descubrimos que, en varios casos, el código generado por ChatGPT estaba muy por debajo de los estándares mínimos de seguridad aplicables en la mayoría de los contextos. De hecho, cuando se le preguntó si el código producido era seguro o no, ChatGPT pudo reconocer que no lo era. " [...] En total, ChatGPT logró generar solo cinco programas seguros de 21 en su primer intento. Después de más indicaciones para corregir sus pasos en falso, el modelo de lenguaje grande logró producir siete aplicaciones más seguras, aunque eso es "seguro" solo en lo que respecta a la vulnerabilidad específica que se está evaluando. No es una afirmación de que el código final esté libre de cualquier otra condición explotable. [...]

Que los chatbots con inteligencia artificial pueden aligerarnos nuestros quéhaceres diarios personales y profesionales no es un secreto y solo con ello, ya nos ayudan a mejorar la productividad.

Desde que ChatGPT-3.5 vio la luz, hemos visto esta idea unas cuantas veces. A decir verdad, cada vez con más frecuencia, lo que irremediablemente hace que impacte menos porque ya no es la novedad: más inteligencias artificiales y más personas con la aspiración de enriquecerse con ellas sin apenas esfuerzo. Uno de los casos que mejor lo ilustra es el de Jackson GreatHouse Fall, un tipo que el pasado 14 de marzo le puso 100 dólares encima de la mesa a GPT-4 y una misión: ganar tanto dinero como fuera posible con inversiones y un negocio online.

GPT significa "Generative Pre-trained Transformer". Esto se refiere al tipo de arquitectura de modelo de lenguaje utilizado para entrenar al modelo, que es un Transformer pre-entrenado de aprendizaje profundo. Los modelos GPT son capaces de generar texto de manera autónoma después de ser entrenados en grandes conjuntos de datos de texto, lo que los hace útiles para tareas como la generación de texto, el resumen de texto y la traducción automática.

Stability AI, desarrollador de modelos de inteligencia artificial para Stable Diffusion Imaging, anunció el lanzamiento de una versión alfa de su nueva IA, StableLM. En este caso, como su nombre indica, es el "lenguaje de patrones". Quiero decir que lanzaron su propio GPT... y es de código abierto.

En un comunicado, la empresa explica que la licencia de estos diseños es Creative Commons BY-SA-4.0, por lo que "los desarrolladores son libres de revisarlos, usarlos y modificarlos con fines comerciales y de investigación". "Las compilaciones alfa están disponibles en [versiones] de 3 000 millones y 7 000 millones de parámetros, seguidas de modelos de 15 000 millones a 65 000 millones de parámetros".

Esto todavía está lejos del parámetro de 1 billón de GPT-4 o del parámetro de 175 mil millones de GPT-3, pero en Stability AI creemos que todo el rendimiento depende no solo del tamaño (parámetros), sino también de la optimización del contenido. Modelos entrenados:

Que iba a ocurrir todos los sabíamos. Era solo cuestión de tiempo la inteligencia artificial se ganara sus propios detractores. Enemigos de la inteligencia artificial por su actos... En este caso, "enemigas".

Y es que algunos chicos estos días han creado tantas chicas virtuales haciendo uso de la inteligencia artificial, creando imágenes hiper-realistas. Que están confundiendo a los adictos de esta plataforma erótica, por lo que las chicas de "Only Fans" parecen ser las primeras en sufrirlos. Ellas sufren el peor de los castigos que es perder su trabajo.

El rápido desarrollo de los generadores de imágenes permite que cualquiera pueda crear imágenes de personajes ficticios que parecen increíblemente realistas. Estas herramientas están cambiando la forma en que creamos y consumimos pornografía.

La foto muestra el rostro de una mujer joven con cabello largo y negro y una sonrisa amable que dice "Hoy me siento hermosa :)". Y en Reddit, donde Claudia, como se la conoce, vende fotos de desnudos a cualquiera que le envíe un mensaje privado, es bastante común: "Maldita sea, eres hermosa", dijo un usuario.

Pero Claudia es falsa: según dos investigadores de medios sintéticos, un conjunto de fotos creadas con herramientas de inteligencia artificial podría usarse para extorsionar a compradores crédulos.

Los rápidos avances en imágenes de IA, como Midjourney y Stable Diffusion, han llamado la atención del mundo en las últimas semanas por las ingeniosas obras de arte y la espectacular falsificación de ex presidente y papa. Pero el caso de Claudia muestra el lado positivo de la tecnología: al permitir que cualquier persona cree imágenes de maniquíes de apariencia inquietantemente realista, estas herramientas están cambiando la forma en que se produce y consume pornografía.

Durante años, las nuevas tecnologías han sido pioneras en el campo de la pornografía y las herramientas de inteligencia artificial no han cambiado este paradigma. Ahora hay miles de cuentas registradas en tableros de mensajes y salas de chat dedicadas a crear y mejorar personajes compuestos, la mayoría de los cuales parecen niñas y mujeres, un cambio rápido puede trastornar la industria multimillonaria y socavar la necesidad de la realidad. Los roles y modelos de vida enfrentan y plantean preocupaciones más profundas sobre la cosificación y explotación de las mujeres.

Administrador de sistemas para un hospital del Medio Oeste. -quien, al igual que otros creadores de IA y espectadores entrevistados para esta historia, habló bajo condición de anonimato- dijo que usó herramientas de estabilización para crear imágenes identificables. Adora a las mujeres adultas en pañales y la mejora de la calidad de la imagen lo hace mentir.

"No creo que a la persona promedio que ve estas cosas le importe", dijo. “No espero que las personas que veo en línea sean quienes dicen ser. No saldría con esta persona en la vida real... Después de todo, ¿qué diferencia hay si no son reales?". La cuenta de Claudia no respondió a las solicitudes de comentarios, por lo que es imposible confirmar cómo se tomaron las fotos o cuánto dinero se recaudó de la lotería de un mes.

Sin embargo, según los investigadores, las fotos tienen algunos signos evidentes de falsificación, como detalles extraños en el fondo y un lunar en el cuello que desaparece entre poses. “En realidad, son bastante fáciles de crear”, dijo un desarrollador de IA.

Los investigadores han identificado varios perfiles en línea de mujeres que creen que son avatares falsos basados ​​en artefactos de firma dejados por algunos de los creadores de IA. En Instagram, Reddit, Twitter y OnlyFans, las cuentas comparten fotos de mujeres con diversos grados de desnudez, instando a los espectadores a pagar o registrarse si quieren ver más.

Las cuentas falsas sospechosas no responden a las preguntas. Y dado que la mayoría de las imágenes generadas por IA no tienen marcas de agua ni huellas dactilares en el momento de la creación, es difícil para cualquier espectador confirmar si son reales.

Una cuenta publicó un video de un actor porno puertorriqueño aficionado junto con fotos editadas que mostraban el rostro de una mujer en el cuerpo de otro hombre. Ni las cuentas falsas ni las reales respondieron a las solicitudes de comentarios.

Cientos de cuentas en línea han seguido y comentado las cuentas pornográficas falsas, dejando comentarios que indican que creen que las mujeres son reales. "Me siento un poco engañado", dijo el usuario de Reddit "legalbeagle1966" después de que un reportero del Washington Post sugiriera que Claudia probablemente era una estafadora. Una semana antes, comentó en su foto que se veía "bastante sexy y perfecta". Muchas de las imágenes falsas más recientes están impulsadas por programas de inteligencia artificial conocidos como modelos virales que permiten que cualquier persona ingrese una cadena corta de palabras y cree una foto falsa de forma gratuita. Luego, las imágenes se pueden editar para hacerlas más convincentes e incluso ocultar fallas y mejorar su calidad. Estas herramientas son incluso más fáciles de usar que el software "deepfake" que causó preocupación sobre las imágenes de IA en 2017.

Con la ayuda de OpenChatKit, los programadores pueden crear fácilmente sus propias aplicaciones únicas de chatbot, ajustar el modelo, retener el contexto del diálogo, moderar las respuestas y más.

Desde hace bastante tiempo, el código abierto y el código cerrado han estado en guerra. GPT-Neo, una alternativa de código abierto que EleutherAI lanzó después de que OpenAI lanzara GPT-3 como modelo de código cerrado, ha producido resultados comparables. De manera similar, Stability AI desarrolló Stable Diffusion, una versión de código abierto de DALLE 2 en el momento de su lanzamiento.

La firma de capital de riesgo Andreessen Horowitz cree que la industria más afectada por la IA generativa serán los videojuegos. Pero no son los únicos , informa The Economist:La interactividad de los juegos requiere que estén repletos de contenido laboriosamente diseñado: considere los 30 kilómetros cuadrados de paisaje o las 60 horas de música en "Red Dead Redemption 2", una reciente aventura de vaqueros. Reclutar asistentes de inteligencia artificial para producirlo podría reducir drásticamente los plazos y los presupuestos...

Hacer un juego ya es más fácil de lo que era: el año pasado se publicaron casi 13,000 títulos en Steam, una plataforma de juegos, casi el doble que en 2017. pronto se parecerán a las industrias de la música y el video, en las que la mayoría del contenido nuevo en Spotify o YouTube es generado por los usuarios. Un ejecutivo de juegos predice que las pequeñas empresas serán las más rápidas en descubrir qué nuevos géneros son posibles gracias a la IA. El mes pasado, Raja Koduri, un ejecutivo de Intel, dejó el fabricante de chips para fundar una startup de juegos de IA.

OpenAI anunciaba una gran novedad para mejorar sus prestaciones de su ChatGPT : una 'app store' de plugins que nos permite conectar la IA con varios servicios web populares.

Junto a eso, pero sin necesidad de que tengamos que activar nada, OpenAI ha resuelto el principal problema que tenía hasta ahora su chatbot concediéndole acceso a Internet.'Navegar' por Internet

Ahora la información susceptible de quedar obsoleta la consulta directamente a través de la API de búsqueda de Bing (reseñando la fuente de dicha información, lo cual está también muy bien para que podamos ponerla en contexto).

Otra de las grandes novedades es la nueva función de ejecutar código Python. ChatGPT ha sido capaz de generar código desde su lanzamiento, pero ahora no tendremos que copiarlo y pegarlo en otro sitio para ver cómo funciona: podemos ejecutarlo con seguridad en un entorno aislado.

lo mejor es que permite cargar archivos locales para procesarlos con nuestro código Python, con lo que ChatGPT se convierte también en un Google Colab 'de andar por casa'.