인공 지능 및 머신 러닝 애플리케이션과 데이터 보호

비즈니스와 산업 조직이 점점 더 연결되면서 인공지능(AI)과 머신러닝(ML) 기술이 기간계 시스템, 단말기와 주요 애플리케이션에 도입되고 있습니다. 오늘날 실제 사용 사례는 음성 인식, 악성코드 탐지, 소프트웨어 품질 테스트부터 드라이버 어시스트 시스템이나 의료 진단과 같이 인간의 안전에 중요한 애플리케이션에 이르기까지 다양한 분야에 걸쳐 광범위하게 적용되고 있습니다.

AI 애플리케이션에 대한 공격 또는 단순한 오작동이나 부주의한 조작은 자칫 생명을 위협하는 결과를 초래할 수 있습니다. 의료 분야에서는 잘못된 분류 결과가 오진으로 이어져 잘못된 치료로 이어질 수 있습니다. 또한 AI는 기밀성과 환자의 익명성이 가장 중요시되는 개인정보에 대해 학습을 받습니다. 이러한 데이터는 CT 또는 MRT 스캔 또는 환자의 병력에 대한 정보일 수 있으므로 AI가 생성한 데이터가 유출되면 환자에게 치명적인 결과를 초래할 수 있습니다.

예를 들어, 산업 분야에서는 해커가 개별 픽셀의 색상을 변경하는 등 무해해 보이는 사소한 변화도 중대한 영향을 미칠 수 있는 ML 학습 데이터에 접근할 수 있습니다. 조작된 특정 속성이 학습된 모델에 반영되어 사람 눈으로 발견하지 못할 수도 있습니다. 비슷한 맥락에서 해커는 학습 데이터의 전처리, 학습 매개변수, 심지어 완성된 학습 모델을 조작하여 추후에 실수를 유발하거나 시스템이 잘못된 분류 결과를 제공하도록 만들 수 있습니다.

머신 러닝 수명 주기의 공격 표면은 매우 다양하므로 데이터 위조로부터 보호하는 것이 중요합니다. 머신 러닝 수명 주기 내에서 사용되는 데이터나 알고리즘을 조작하면 재앙적인 결과를 초래할 수 있습니다. 또한, 학습 데이터는 구성 요소의 내부 작동을 드러낼 수 있으므로 민감한 데이터와 그 안에 포함된 지적 재산의 기밀성도 보호해야 합니다. AI 애플리케이션 자체 또는 특정 학습 매개변수의 관련성에 대한 기본 데이터도 이러한 측면에서 지적 재산에 해당할 수 있습니다.

CodeMeter Protection Suite는 AI 및 ML 애플리케이션과 관련된 실행 파일과 데이터를 모두 방어할 수 있는 종합적인 툴킷을 제공합니다. 실행 파일은 기존의 ''난독화 보안'' 메커니즘을 훨씬 뛰어넘어 변조나 리버스 엔지니어링으로부터 보호됩니다. 실행 파일이나 민감한 기능은 검증된 암호화 알고리즘을 사용해 암호화됩니다. 또한 소프트웨어와 데이터의 무결성을 보호하기 위해 암호화 방법을 활용합니다. 함수와 데이터는 런타임에 해독됩니다. 코드의 민감한 부분도 해독하여 실행할 수 있으며, 주요 자료나 인증서를 보안 하드웨어에 안전하게 전송 및 저장할 수 있습니다. 이렇게 하면 키 자료를 비밀로 유지할 뿐만 아니라 키와 인증서의 조작도 방지할 수 있습니다.

오픈 소스 프레임워크의 유용성 및 프로그래밍 언어의 대중성으로 인해 AI 애플리케이션은 Python으로 작성되는 경우가 많습니다. AxProtector Python은 학습에 사용되는 프레임워크 코드와 머신 러닝 수명 주기에 사용되는 데이터를 조작, 지적 재산 도용 및 무단 사용으로부터 보호합니다.