#5.20 Hackear o Proteger: Estrategias de Ciberseguridad para LLMs

12/30/24 • 55 min

Charlas técnicas de AWS (AWS en Español)

En este episodio del podcast de Charlas Técnicas AWS, entrevistamos a Jordi García Castillón, reconocido experto en ciberseguridad e inteligencia artificial. Juntos desvelamos los desafíos y amenazas que enfrentan los grandes modelos de lenguaje (LLMs) en la actualidad, explorando cómo prevenir ataques como la inyección de prompts y el envenenamiento de datos.

Descubriremos las mejores prácticas, frameworks y herramientas para proteger tus aplicaciones basadas en IA, ynos adentraremos en temas emergentes como la orquestación de agentes autónomos y su impacto en infraestructuras modernas. Además, aprenderemos sobre el desarrollo de soluciones de ciberseguridad innovadoras conAmazon Bedrock.

Si quieres entender cómo la IA está transformando la ciberseguridad y prepararte para los retos del futuro, este episodio es una parada obligatoria.

Tabla Contenidos:

[00:00] Introducción y presentación de Jordi García Castellón.
[01:51] Principales vectores de ataque en modelos de lenguaje.
[02:29] Técnicas de hacking y amenazas emergentes.
[04:59] Cómo la ingeniería social aprovecha modelos de lenguaje.
[11:09] Envenenamiento de datos: riesgos y prevención.
[14:55] Frameworks de seguridad para proteger LLMs.
[18:27] Estrategias para proteger infraestructuras en AWS.
[22:57] Desarrollo de aplicaciones de ciberseguridad con Amazon Bedrock.
[27:51] IA consciente y personalidad: un debate ético.
[29:37] Elon Musk y la integración de IA en proyectos innovadores.
[32:21] Tamaño vs. eficiencia en modelos de IA.
[33:44] Cómo la IA está transformando la ciberseguridad.
[35:47] Optimización y entrenamiento de modelos para mayor seguridad.
[39:40] Agentes autónomos y el futuro de la orquestación en IA.
[51:31] Conclusiones y recomendaciones.

Redes Sociales del Invitado:

LinkedIN: https://www.linkedin.com/in/gcjordi/
Twitter: https://x.com/gcjordi
Hashnode: https://gcjordi.hashnode.dev/
Dev.to: https://dev.to/gcjordi

🔗 Links mencionados en este episodio:

Atlas Mitre Attack: https://atlas.mitre.org/
OWASP LLMs: https://owasp.org/www-project-top-10-for-large-language-model-applications/
AWS Well-Architected Framework usando Bedrock:https://aws.amazon.com/blogs/machine-learning/achieve-operational-excellence-with-well-architected-generative-ai-solutions-using-amazon-bedrock/
Desglosando el diseño de Grok:

✉️ Si quieren escribirnos pueden hacerlo a este correo: [email protected]
Podes encontrar el podcast en este link: https://aws-espanol.buzzsprout.com/
O en tu plataforma de podcast favorita
Más información y tutoriales en el canal de youtube de Charlas Técnicas
☆☆ NUESTRAS REDES SOCIALES ☆☆

🐦Guille Twitter: https://x.com/iaasgeek

🐦 Eli Twitter: https://x.com/ElizabethFue12

🐦 Podcast Charlas Técnicas: https://x.com/aws_espanol

🐦 Marcia Twitter: / mavi888uy

📷 Marcia Instagram: / foobar_codes

#foobar #AWSenEspañol

Si quieres entender cómo la IA está transformando la ciberseguridad y prepararte para los retos del futuro, este episodio es una parada obligatoria.

Tabla Contenidos:

[00:00] Introducción y presentación de Jordi García Castellón.
[01:51] Principales vectores de ataque en modelos de lenguaje.
[02:29] Técnicas de hacking y amenazas emergentes.
[04:59] Cómo la ingeniería social aprovecha modelos de lenguaje.
[11:09] Envenenamiento de datos: riesgos y prevención.
[14:55] Frameworks de seguridad para proteger LLMs.
[18:27] Estrategias para proteger infraestructuras en AWS.
[22:57] Desarrollo de aplicaciones de ciberseguridad con Amazon Bedrock.
[27:51] IA consciente y personalidad: un debate ético.
[29:37] Elon Musk y la integración de IA en proyectos innovadores.
[32:21] Tamaño vs. eficiencia en modelos de IA.
[33:44] Cómo la IA está transformando la ciberseguridad.
[35:47] Optimización y entrenamiento de modelos para mayor seguridad.
[39:40] Agentes autónomos y el futuro de la orquestación en IA.
[51:31] Conclusiones y recomendaciones.

Redes Sociales del Invitado:

LinkedIN: https://www.linkedin.com/in/gcjordi/
Twitter: https://x.com/gcjordi
Hashnode: https://gcjordi.hashnode.dev/
Dev.to: https://dev.to/gcjordi

🔗 Links mencionados en este episodio:

Atlas Mitre Attack: https://atlas.mitre.org/
OWASP LLMs: https://owasp.org/www-project-top-10-for-large-language-model-applications/
AWS Well-Architected Framework usando Bedrock:https://aws.amazon.com/blogs/machine-learning/achieve-operational-excellence-with-well-architected-generative-ai-solutions-using-amazon-bedrock/
Desglosando el diseño de Grok:

🐦Guille Twitter: https://x.com/iaasgeek

🐦 Eli Twitter: https://x.com/ElizabethFue12

🐦 Podcast Charlas Técnicas: https://x.com/aws_espanol

🐦 Marcia Twitter: / mavi888uy

📷 Marcia Instagram: / foobar_codes

#foobar #AWSenEspañol

Episodio Anterior

#5.19 Del Caos a la Excelencia: Reflexiones DevOps

En este episodio de Charlas Técnicas de AWS conversamos con Carolina Herrera, Senior DevOps Engineer en Globant, sobre los desafíos, aprendizajes y errores comunes en el mundo de DevOps. Carolina comparte anécdotas y estrategias para navegar el caos técnico, mantener la seguridad y optimizar procesos. Una conversación llena de historias y lecciones prácticas.
Tabla de Contenidos

01:22 Conociendo a Carolina Herrera: De telecomunicaciones a DevOps.
03:35 Un día típico en DevOps: pipelines, despliegues y crisis.
05:38 Prácticas de seguridad en DevOps (DevSecOps).
07:38 El modelo de seguridad compartida en la nube.
08:27 Gestión de accesos y errores comunes de los desarrolladores.
09:28 Integrando seguridad en los sprints y convenciendo al negocio.
10:49 Releases con bugs recurrentes y problemas de credenciales expuestas.
13:08 Preparándose para el caos: errores críticos y soluciones rápidas.
16:21 Decisiones difíciles: rollback o seguir adelante en producción.
18:37 Validación de snapshots: asegurando recuperaciones funcionales.
20:48 Proliferación descontrolada de entornos y acumulación de deuda técnica.
23:50 Casos de optimización de costos en DevOps.
27:16 Problemas comunes con CABs (Change Advisory Boards).
28:03 Pipelines configurados incorrectamente: impacto y mitigación.
29:45 Automatización para reducir errores humanos.
30:17 Limpiezas de datos que eliminan librerías críticas.
35:36 Frameworks y herramientas para estructurar DevOps.
37:39 Construyendo tu stack tecnológico: CI/CD, monitorización y control de versiones.
41:08 Herramientas open-source para gestión de infraestructura y seguridad.
44:44 La importancia de hacer las preguntas correctas en el momento adecuado.
46:08 Choques culturales y gestión de equipos en DevOps.
48:28 Recursos para iniciar una carrera en DevOps: libros, cursos y herramientas prácticas.
Redes Sociales Invitada
LinkedIN: https://www.linkedin.com/in/carolinahm/
X: @carotechie
Links mencionados en este episodio

Roadmap DevOps: https://roadmap.sh/devops
TechWorld with Nana: From Zero to DevOps Engineer
CNCF Landscape: https://landscape.cncf.io/
Libro Proyecto Fénix, Gene Kim: https://amzn.eu/d/1hgfdmn
Libro El Proyecto Unicornio, Gene Kim: https://amzn.eu/d/92JAQTQ
Libro Docker Deep Dive, Nigel Poulton: https://amzn.eu/d/hxbIYLV
Intro a DevOps con PeladoNerd
Kubernetes de Hard Way
Jerome Petazzoni, leyenda Docker (Charlas y workshops)

🐦Guille Twitter: https://x.com/iaasgeek

🐦 Eli Twitter: https://x.com/ElizabethFue12

🐦 Podcast Charlas Técnicas: https://x.com/aws_espanol

🐦 Marcia Twitter: / mavi888uy

📷 Marcia Instagram: / foobar_codes

#foobar #AWSenEspañol

Siguiente Episodio

#5.21 Novedades re:Invent con Marcia Villalba

En este episodio especial del podcast de Charlas Técnicas AWS, cerramos oficialmente la Temporada 5 con el esperado re:Cap de re:Invent 2024. Y para hacerlo aún más especial, nos acompaña Marcia Villalba, co-host original del podcast.

Hablamos de todo lo que dejó este re:Invent: los nuevos chips Graviton4, avances en inteligencia artificial con Amazon Q Developer y los nuevos modelos NOVA, mejoras en infraestructura como la fibra óptica de núcleo hueco, y la evolución de bases de datos con Aurora DSQL. Todo esto, mezclado con reflexiones sobre cómo AWS sigue apostando por la simplicidad sin perder su esencia.

Si te perdiste el evento o quieres repasar los anuncios más importantes, este episodio es para ti.

Temas destacados:

[00:00] Introducción y regreso de Marcia Villalba.
[01:35] Balance general de re:Invent 2024 y tendencias.
[05:30] 10 años de AWS Lambda
[08:20] Infraestructura avanzada: Hollow-Core Fiber y relojes atómicos.
[09:45] Innovaciones en bases de datos: Aurora DSQL y DynamoDB Strong Consistency.
[15:40] Mejoras en Amazon S3: S3 Metadata Search y S3 Tables.
[17:20] Lanzamiento de Graviton4, Systolic Arrays y Neuron Kernel Interface (NKI).
[21:07] Amazon Bedrock, agentes y novedades
[26:17] Amazon Q Developer: integración con GitHub, .Net, VMware y Mainframe.
[27:40] Amazon NOVA, nuevos modelos de IA Generativa
[32:07] Herramientas para IA Generativa, prompt caching, inteligent routing.
[38:20] Reflexiones sobre la keynote de Werner Vogels y la simplicidad en AWS.
[44:30] Próximos pasos y sorpresas para la Temporada 6.
[46:04] El regalo de Marcia.

Nos vemos en la Temporada 6 con más contenido, historias de la comunidad y sorpresas. ¡Gracias por acompañarnos este año!

🔗 Links mencionados en este episodio:

🎁 Curso Marcia gratuito (a los 100 primeros): LINK

🐦Guille Twitter: https://x.com/iaasgeek

🐦 Eli Twitter: https://x.com/ElizabethFue12

🐦 Podcast Charlas Técnicas: https://x.com/aws_espanol

🐦 Marcia Twitter: / mavi888uy

📷 Marcia Instagram: / foobar_codes

#foobar #AWSenEspañol