2.14.3 SEC/Seguridad en IA y Hardware

Temas:
Core

• Impacto de la IA en la seguridad y la privacidad: usar la IA para reforzar las defensas y abordar las capacidades adversariales aumentadas debido a la IA Inteligencia Artificial (AI) -ApplicationsSocietalImpact,HCI-SystemDesign,HCI-SocietyEthicsProfession.
• Seguridad y confianza en sistemas de IA/aprendizaje automático, por ejemplo, adecuados para el propósito, límites operativos éticos, fuentes de conocimiento autorizadas, datos de entrenamiento verificados, pruebas de evaluación del sistema repetibles, atestación del sistema, validación/certificación independiente; consecuencias no deseadas de: efecto adverso Inteligencia Artificial (AI) -IntroductionFundamentalIssues,AI-MachineLearning,AI-ApplicationsSocietalImpact,SEP-Security.
• Riesgos de seguridad en la construcción y operación de sistemas de IA/aprendizaje automático (por ejemplo, sesgo algorítmico, sesgo del corpus de conocimiento, sesgo del corpus de entrenamiento, violación de derechos de autor) Inteligencia Artificial (AI) -IntroductionFundamentalIssues,AI-MachineLearning,AI-ApplicationsSocietalImpact.
• Consideraciones de hardware en seguridad, por ejemplo, principios de hardware seguro, arquitecturas de procesador seguro, aceleración criptográfica, compartimentación, interacción software-hardware Arquitectura y Organización (AR) -AssemblyLevelMachineOrganization,AR-MachineLevelDataRepresentation,OS-Purpose.

Aprendizaje esperado (Learning Outcomes):
Core:

1. Mostrar cómo un adversario podría usar algoritmos de aprendizaje automático para reducir la seguridad de un sistema [Analizar]
2. Mostrar cómo un desarrollador podría mejorar la seguridad de un sistema usando algoritmos de aprendizaje automático [Analizar]
3. Describir vulnerabilidades de hardware (especialmente de la CPU) que pueden impactar al software [Describir]