Why AI Security Starts at the Chip Level
Source: https://semiwiki.com/eda/synopsys/374743-why-ai-security-starts-at-the-chip-level/
Artificial intelligence is becoming part of the infrastructure that powers healthcare, transportation, finance, manufacturing, and everyday digital services. As these systems grow more capable, they also process more sensitive information and depend on increasingly complex hardware. The Synopsys white paper, “Securing AI at the Silicon Level” argues that protecting AI requires security built into the chips themselves, alongside safeguards throughout the system’s lifecycle. Its central message is that trustworthy AI depends on trustworthy computing foundations.
인공지능(AI)은 의료, 교통, 금융, 제조업 및 일상적인 디지털 서비스를 구동하는 인프라의 일부가 되어가고 있습니다. 이러한 시스템이 더욱 고도화됨에 따라, 더 많은 민감 정보를 처리하고 점점 더 복잡해지는 하드웨어에 의존하게 됩니다. 시놉시스의 백서인 “실리콘 레벨에서의 AI 보안(Securing AI at the Silicon Level)”은 AI를 보호하려면 시스템 수명주기 전반에 걸친 보호 조치와 더불어 칩 자체에 보안이 내장되어야 한다고 주장합니다. 이 백서의 핵심 메시지는 신뢰할 수 있는 AI는 신뢰할 수 있는 컴퓨팅 기반에 달려 있다는 점입니다.
The paper describes threats across both training and inference. During training, attackers can poison datasets, manipulate model structures, or introduce hidden backdoors. During inference, they may steal proprietary models, alter incoming sensor data, or tamper with results. These attacks can affect more than technical performance. A compromised model could expose private information, undermine a business’s intellectual property, or influence decisions in applications where errors have serious consequences. Security therefore concerns the integrity of AI decisions as well as the confidentiality of data.
이 백서는 훈련(training)과 추론(inference) 양쪽 모두에서의 위협을 다룹니다. 훈련 과정에서 공격자는 데이터셋을 오염시키거나, 모델 구조를 조작하거나, 숨겨진 백도어를 심을 수 있습니다. 추론 과정에서는 독점 모델을 훔치거나, 들어오는 센서 데이터를 변조하거나, 결과를 조작할 수 있습니다. 이러한 공격은 단순히 기술적 성능에 그치지 않고 그 이상의 영향을 미칠 수 있습니다. 손상된 모델은 사생활 정보를 노출시키고, 기업의 지식 재산권을 훼손하며, 오류가 심각한 결과를 초래하는 응용 분야에서 의사결정에 영향을 미칠 수 있습니다. 따라서 보안은 데이터의 기밀성뿐만 아니라 AI 의사결정의 무결성과도 직결됩니다.
Modern AI hardware adds further complexity. Designers use specialized accelerators, multiple chiplets, external memory, and fast interconnects to deliver greater performance. Each connection creates another boundary where information may be intercepted or manipulated. Debug interfaces can also become entry points if access is poorly controlled. The paper argues that protection must cover the complete computing platform, including communication between components, rather than focusing exclusively on the model or application.
현대 AI 하드웨어는 복잡성을 한층 더 가중시킵니다. 설계자들은 더 나은 성능을 제공하기 위해 특화된 가속기, 다수의 칩렛, 외장 메모리, 고속 인터커넥트를 사용합니다. 각각의 연결은 정보가 가로채이거나 조작될 수 있는 또 다른 경계면을 만듭니다. 접근 제어가 부실할 경우 디버그 인터페이스 또한 진입 경로가 될 수 있습니다. 백서는 모델이나 애플리케이션에만 배타적으로 초점을 맞추기보다는, 구성 요소 간의 통신을 포함한 완전한 컴퓨팅 플랫폼을 보호해야 한다고 주장합니다.
A major distinction is between data center AI and edge AI. Data centers generally benefit from controlled facilities, dedicated security teams, and more resources for monitoring and updates. Edge devices, such as cameras, vehicles, sensors, and industrial controllers, often operate in exposed environments with limited power, connectivity, and processing capacity. Physical access can make tampering easier, while unreliable connectivity can delay updates. These differences make efficient hardware security particularly valuable at the edge, where software defenses may face practical constraints.
주요한 구분 중 하나는 데이터센터 AI와 엣지(Edge) AI 사이의 차이입니다. 데이터센터는 일반적으로 통제된 시설, 전담 보안 팀, 모니터링 및 업데이트를 위한 더 많은 리소스의 이점을 누립니다. 반면 카메라, 차량, 센서, 산업용 제어기와 같은 엣지 장치는 제한된 전력, 연결성, 처리 용량을 가진 노출된 환경에서 작동하는 경우가 많습니다. 물리적 접근으로 인해 변조가 더 쉬울 수 있으며, 불안정한 연결성은 업데이트를 지연시킬 수 있습니다. 이러한 차이로 인해 소프트웨어 방어가 현실적인 제약에 직면할 수 있는 엣지 환경에서 효율적인 하드웨어 보안이 특히 중요해집니다.
Synopsys presents several technologies for addressing these challenges. Physical unclonable functions establish chip identities and support cryptographic key protection. Embedded hardware security modules provide protected environments for secure boot, key management, and sensitive operations. Cryptographic accelerators help encrypt and authenticate communications without imposing excessive processing overhead. Interface protection and inline memory encryption protect information moving between components or held in external memory. Together, these mechanisms aim to establish a foundation of trust while preserving the performance that AI workloads require.
시놉시스는 이러한 문제를 해결하기 위한 여러 기술을 제시합니다. 물리적 복제 방지 기술(PUF)은 칩의 고유 신원을 확립하고 암호화 키 보호를 지원합니다. 내장형 하드웨어 보안 모듈(HSM)은 안전한 부팅, 키 관리, 민감한 작업을 위한 보호된 환경을 제공합니다. 암호화 가속기는 과도한 처리 오버헤드를 유발하지 않으면서 통신을 암호화하고 인증하는 데 도움을 줍니다. 인터페이스 보호 및 인라인 메모리 암호화는 구성 요소 간에 이동하거나 외장 메모리에 보관되는 정보를 보호합니다. 이러한 메커니즘들은 AI 워크로드에 필요한 성능을 유지하면서 신뢰의 기반을 다지는 것을 목표로 합니다.
The paper also emphasizes isolation, authentication, and lifecycle assurance. Trusted execution environments can separate sensitive workloads from other software, while attestation helps verify a platform’s state. Supply chain controls address component provenance and manufacturing trust. These measures matter because security can fail before deployment, during operation, or through an insecure update. However, hardware protection is one layer of a broader strategy. It cannot independently establish that training data is reliable, eliminate biased outputs, or prevent every form of adversarial manipulation. Organizations still need model evaluation, access controls, monitoring, and operational governance.
이 백서는 또한 격리, 인증, 그리고 수명주기 보증을 강조합니다. 신뢰할 수 있는 실행 환경(TEE)은 민감한 워크로드를 다른 소프트웨어와 분리할 수 있으며, 증명(attestation)은 플랫폼의 상태를 검증하는 데 도움을 줍니다. 공급망 통제는 부품 출처와 제조 신뢰성을 다룹니다. 이러한 조치들이 중요한 이유는 보안이 배포 전, 작동 중, 혹은 안전하지 않은 업데이트를 통해 실패할 수 있기 때문입니다. 그러나 하드웨어 보호는 더 광범위한 전략의 한 레이어일 뿐입니다. 훈련 데이터가 신뢰할 수 있는지 독립적으로 입증하거나, 편향된 출력을 없애거나, 모든 형태의 적대적 조작을 방지할 수는 없습니다. 조직은 여전히 모델 평가, 접근 제어, 모니터링, 그리고 운영 거버넌스가 필요합니다.
Another theme is preparation for quantum computing. The paper advocates post-quantum cryptography and flexible cryptographic hardware for systems expected to remain operational for many years. This matters because sensitive encrypted information collected today could become vulnerable to future decryption, and long-lived devices may be difficult to redesign. Cryptographic agility provides a way to adapt protections as algorithms and requirements evolve.
또 다른 주제는 양자 컴퓨팅에 대한 대비입니다. 이 백서는 수년 동안 계속해서 가동될 것으로 예상되는 시스템을 위해 양자 암호 내성(post-quantum cryptography)과 유연한 암호화 하드웨어를 지지합니다. 오늘 수집된 민감한 암호화 정보가 미래의 복호화에 취약해질 수 있고, 수명이 긴 장치는 재설계하기 어려울 수 있기 때문에 이는 중요합니다. 암호화 민첩성(cryptographic agility)은 알고리즘과 요구 사항이 진화함에 따라 보호 조치를 적응시킬 수 있는 방법을 제공합니다.
Ultimately, the paper matters because it connects AI innovation with the infrastructure needed to sustain public and commercial trust. Protecting models safeguards investment; protecting data supports privacy; protecting execution helps preserve reliable decisions. For engineers, its practical lesson is to consider security during architectural design.
결국 이 백서가 중요한 이유는 AI 혁신을 대중적 및 상업적 신뢰를 유지하는 데 필요한 인프라와 연결해주기 때문입니다. 모델을 보호하면 투자가 보호되고, 데이터를 보호하면 프라이버시가 지원되며, 실행을 보호하면 신뢰할 수 있는 의사결정이 유지됩니다. 엔지니어들에게 실질적인 교훈은 아키텍처 설계 단계부터 보안을 고려하라는 것입니다.
Bottom line: AI systems need coordinated protection from silicon through software, operations, and governance. Building that protection early can reduce costly redesigns and support safer adoption as AI becomes more deeply embedded in daily life. That makes chip security relevant to everyone who depends on AI systems.
요약하자면: AI 시스템은 실리콘부터 소프트웨어, 운영, 거버넌스에 이르기까지 유기적으로 조율된 보호 조치가 필요합니다. 이러한 보호를 조기에 구축하면 비용이 많이 드는 재설계를 줄이고, AI가 일상생활에 더욱 깊숙이 자리 잡음에 따라 더 안전한 도입을 지원할 수 있습니다. 이는 칩 보안을 AI 시스템에 의존하는 모든 이들에게 유의미한 주제로 만들어 줍니다.
