Testing de aplicaciones basadas en LLMs - Federico Toledo

Summary

Federico Toledo, fundador de Abstracta y especialista en testing de software, presenta una charla sobre el testing de aplicaciones basadas en Large Language Models (LLMs). Destaca la importancia de la generativa AI y su uso en plataformas como Chat GPT y Whisper. Explica los desafíos en el testing de estas aplicaciones, enfatizando la necesidad de adaptarse a la rápida evolución de la tecnología y la importancia de la observabilidad y las pruebas de regresión. Toledo comparte su experiencia y ofrece una perspectiva sobre cómo enfrentar los retos futuros en el testing de sistemas inteligentes.

Takeaways

• 😀 Federico Toledo es uno de los fundadores de Abstracta y ha dedicado 15 años a la calidad del software, contribuyendo a través de charlas, podcasts y conferencias.
• 📚 Él es autor del primer libro de testing en español y más recientemente ha organizado la conferencia Quality Sense en Uruguay y Chile.
• 🔍 El tema principal de la charla es el testing de aplicaciones que utilizan Large Language Models (LLMs), una área en la que Toledo ve un gran desafío para los testers futuros.
• 🚀 La Inteligencia Artificial generativa, como los LLMs, está cambiando el paradigma de la IA, pasando de la categorización a la creación de contenido.
• 🌐 Herramientas como ChatGPT, Whisper y Dali están surgiendo para generar contenido basado en texto, audio e imágenes respectivamente, y su adopción se ve impulsada por su facilidad de uso y conversacionalidad.
• 💡 El concepto de 'prompt injection' se introduce como una vulnerabilidad en las aplicaciones que utilizan LLMs, similar a la inyección SQL pero con prompts.
• 🛠️ La herramienta TESC (Testing Everything with ChatGPT) es presentada como una extensión de navegador que utiliza la API de ChatGPT para generar ideas de pruebas basadas en el HTML de un elemento seleccionado.
• 🔄 La importancia de la mantenibilidad de los prompts se destaca, ya que estos pasan a ser parte del código y deben ser legibles y fáciles de versionar.
• 🔒 En el ámbito de la seguridad, se menciona la necesidad de revisar si los datos sensibles enviados a los LLMs podrían comprometer la confidencialidad y el riesgo de 'prompt injection'.
• 🔍 Se sugiere que los testers deberán estar al tanto de las técnicas y herramientas新兴 para probar sistemas basados en IA, y que la observabilidad será clave para mejorar la calidad de las pruebas.

Q & A

¿Quién es Federico Toledo y qué hace en el área de testing de aplicaciones?

Federico Toledo es uno de los fundadores de Abstracta, una empresa dedicada a la calidad del software desde hace 15 años. Él ha estado trabajando en el área de testing por 18 años, contribuyendo a través de charlas, podcasts, conferencias y escribiendo el primer libro de testing en idioma español.

¿Qué es un Lenguaje de Grandes Modelos (Large Language Model, LLM) y cómo se relaciona con la inteligencia artificial generativa?

Un Lenguaje de Grandes Modelos (LLM) es una herramienta de inteligencia artificial que ha ganado popularidad en el último año. Estos modelos permiten la generación de contenido basada en la información con la que son entrenados, como imágenes, texto, etc., en lugar de simplemente clasificar o identificar información, como ocurría con la inteligencia artificial tradicional.

¿Cuál es la diferencia principal entre un sistema de inteligencia artificial categorizador y uno generativo?

La diferencia principal es que un sistema categorizador recibe datos y clasifica o identifica si corresponden a una cierta categoría, como identificar si una imagen es de un gatito. Mientras tanto, un sistema generativo, como un LLM, puede crear nuevos datos, como una nueva imagen de un gatito, a partir de su aprendizaje previo.

¿Qué es chat GPT y cómo se relaciona con las aplicaciones que utilizan su API?

Chat GPT es una plataforma basada en texto creada por Open AI que utiliza un LLM para generar respuestas a preguntas y mantener conversaciones. Las aplicaciones que utilizan su API pueden integrar esta capacidad de generación de texto para proporcionar respuestas a los usuarios, manteniendo el contexto de la conversación.

¿Qué son los 'prompts' en el contexto de las aplicaciones que utilizan LLMs?

Los 'prompts' son los mensajes o entradas que se envían a un LLM para obtener una respuesta. Son similares a las consultas en una base de datos, donde se inyectan parámetros para obtener una salida deseada.

¿Por qué es importante el contexto en las invocaciones de un LLM a través de su API?

El contexto es importante porque permite que el LLM proporcione respuestas relevantes y coherentes basadas en la conversación previa. Si el contexto no se pasa correctamente, el LLM puede generar respuestas irrelevantes o fuera de tema.

¿Qué es 'prompt injection' y cómo se relaciona con la seguridad de las aplicaciones que utilizan LLMs?

El 'prompt injection' es un concepto de seguridad donde un atacante intenta manipular el prompt para cambiar el comportamiento de la aplicación o hacer que revele información confidencial. Es similar al 'SQL injection', pero en lugar de bases de datos, se refiere a la manipulación de prompts en sistemas de inteligencia artificial.

¿Qué es TESC y cómo puede ayudar en el testing de aplicaciones que utilizan LLMs?

TESC es una herramienta open source que se puede instalar en navegadores y que permite a los testers generar ideas para pruebas de accesibilidad, automatización y otros tipos de pruebas, a partir de elementos HTML. Utiliza un LLM para generar estas ideas, lo que puede ser útil en el testing de aplicaciones que integran LLMs.

¿Qué desafíos presenta el testing de aplicaciones que utilizan LLMs y cómo pueden abordarse?

El testing de aplicaciones que utilizan LLMs presenta desafíos como la no determinismo en las respuestas, la gestión del contexto y la seguridad contra prompt injection. Para abordar estos desafíos, se pueden utilizar técnicas de caja negra y caja blanca, pruebas estáticas, análisis de código y herramientas de observabilidad para mejorar la comprensión y la calidad de las pruebas.

¿Cómo pueden los testers involucrarse en el 'prompt engineering' y qué beneficios pueden obtener de ello?

Los testers pueden involucrarse en el 'prompt engineering' experimentando con los prompts para mejorar su eficacia y comprensión. Esto les permite tener una mejor idea de cómo funciona el sistema y puede ayudar a proponer mejoras desde distintos ángulos, lo que aumenta la calidad general del testing.