Investigaciones recientes revelan que hackear robots impulsados por modelos de lenguaje de gran tamaño (LLM) es más fácil de lo que se pensaba. Las vulnerabilidades en estos sistemas permiten violaciones de seguridad mediante técnicas conocidas como 'jailbreaking', lo que plantea serias preocupaciones sobre la seguridad de la IA en aplicaciones críticas.
Estos ataques de 'jailbreaking' utilizan prompts diseñados específicamente para eludir las restricciones de seguridad, generando respuestas que contravienen directrices éticas. Inicialmente limitados a chatbots, estas amenazas ahora se extienden a robots humanoides avanzados.
Las pruebas muestran que un prompt malicioso puede inducir a un modelo a proporcionar información peligrosa, como instrucciones para hackear dispositivos o realizar actividades ilegales. Estos riesgos se vuelven aún más preocupantes en el caso de robots humanoides, especialmente los modelos más sofisticados, ya que las vulnerabilidades en estos sistemas podrían tener graves implicaciones en entornos industriales o de seguridad.
Además, el desarrollo de robots como Atlas de Boston Dynamics añade una capa de complejidad. Atlas está diseñado para aprender de manera continua, lo que lo hace más susceptible a manipulaciones externas si no se establecen medidas de seguridad adecuadas. La capacidad de aprendizaje autónomo, aunque prometedora, también incrementa el riesgo de que actores malintencionados exploten estas capacidades.
Los riesgos no se limitan a robots avanzados; incluso los dispositivos domésticos, como los robots aspiradores, han sido objeto de hackeos. Recientes incidentes muestran que los hackers han alterado su comportamiento, como hacer que insulten a sus propietarios, evidenciando que ninguna tecnología conectada está exenta de ser manipulada.
La facilidad para hackear robots plantea interrogantes sobre la rapidez con la que se están implementando estos sistemas sin garantías suficientes de seguridad. A medida que los modelos de lenguaje y los robots avanzan, garantizar su resistencia a manipulaciones externas será esencial para evitar que se conviertan en herramientas al servicio de usos peligrosos.