소식

Sep 25, 2023

사이버 공격으로부터 미래의 원자로 AI 시스템을 보호하는 아이다호 주립대학교의 White Hat 해커

2023년 6월 5일

2023년 6월 5일

미래의 원자로를 운영할 자동화 시스템을 확보하는 데 도움을 주는 일은 아이다호 주립 대학의 화이트 해커 그룹의 몫입니다.

최근 컴퓨터 과학 부교수인 Leslie Kerby와 Kerby의 전산 공학 및 데이터 과학 연구소에서 일하는 연구원들은 첨단 소형 모듈식 원자로를 자율적으로 실행할 수 있는 능력을 테스트 중인 인공 지능 시스템에 디지털 구멍을 뚫기 위해 노력하고 있습니다.

Kerby 연구실에서 박사후 연구원으로 일하는 Pedro "Pepo" Mena는 "데이터는 데이터 내의 패턴과 추세를 학습하여 작동하기 때문에 어떤 용도로 사용되든 모든 인공 지능 시스템의 핵심입니다."라고 설명합니다. "학습 방법은 아마도 인공 지능 시스템이 사이버 공격에 취약할 수 있는 가장 큰 이유일 것입니다. 악의적인 행위자는 시스템에서 사용되는 데이터를 조작함으로써 시스템의 출력에 영향을 미칠 수 있으며 더 나아가 시스템이 내리는 결정에 영향을 미칠 수 있습니다. 우리가 개인 데이터를 보호하려고 노력할 때 데이터 과학자는 이러한 시스템이 사용하는 정보가 손상되지 않도록 보호하기 위한 조치를 취해야 합니다."

Kerby와 그녀는 Idaho Falls에 위치한 연구실에서 추론 공격, 적대적 재프로그래밍, 트로이 목마 공격이라는 세 가지 각도에서 AI를 개발했습니다. 추론 공격부터 시작하여 시스템을 리버스 엔지니어링하고 작업 대상에 대한 아이디어를 얻습니다. 거기에서 데이터가 손상되어 시스템이 다르게 "생각"하고 실제로 발생하지 않는 이벤트에 대해 조치를 수행하도록 강제할 수 있습니다. 그들이 시스템을 테스트하는 마지막 방법은 트로이 목마 공격을 이용하는 것입니다. 팀은 시스템을 대부분 올바른 버전과 비슷하게 보이고 작동하지만 비참한 결과를 초래하는 코드가 몇 가지 변경된 버전으로 교체할 것입니다.

Kerby는 "인공 지능 시스템은 많은 분야에서 구현되고 있지만 종종 이로 인해 발생할 수 있는 보안 위험을 완전히 이해하지 못한 채 구현되고 있습니다."라고 말했습니다. "많은 AI 시스템은 출력을 생성하지만 작동 방식을 공개하지 않는 블랙박스 시스템입니다. 시스템이 사용하는 데이터를 조금만 변경하면 이러한 시스템을 속여 잘못된 출력을 제공할 수 있습니다."

아이다호주 아이다호 폴스 출신의 칼리 맥라렌(Kallie McLaren)은 "ISU에 왔을 때 나에게 어떤 일이 일어날지 전혀 몰랐습니다."라고 말했습니다. "나는 항상 AI가 매우 흥미롭고 성장하는 분야라는 것을 알고 있었지만, 이 프로젝트 이전에는 AI에 대한 잠재적인 위험에 대해 생각해 본 적이 없거나 자율 원자로에 대한 연구를 생각해 본 적이 없습니다. 이 프로젝트는 AI의 발전에 매우 계몽적이었습니다. 현실 세계에서 데이터의 작은 변화가 AI 시스템에 얼마나 큰 변화를 가져올 수 있는지 보는 것은 흥미롭습니다. 가장 빠르게 성장하는 분야 중 하나에 속한다는 것은 흥미롭고 이 연구팀의 일원이 된 것을 좋아합니다. "

아이다호 주립대 연구팀은 아이다호 국립 연구소(Idaho National Laboratory) 및 조지아 공대(Georgia Tech)의 연구원들과도 협력하고 있습니다. 아이다호 주립대학의 연구는 아이다호 국립 연구소와 미국 에너지부 산하 원자력 에너지국으로부터 거의 250,000달러의 자금을 지원받고 있습니다.

Kerby는 "이 프로젝트가 완료되면 우리 팀은 이러한 시스템이 직면한 보안 위험을 입증하고 특히 원자력 공학 분야에서 보다 안전한 인공 지능 시스템을 배포하는 데 도움이 되는 몇 가지 모범 사례를 제공할 수 있어야 합니다"라고 말했습니다. "개인적으로 이 프로젝트에 참여하는 학생들은 귀중한 기술을 배우고 자신의 경력에 ​​긍정적인 영향을 미칠 업계 리더들과 연결될 것입니다."

Idaho Falls에서 기계공학을 전공하고 컴퓨터 과학을 부전공한 Eric Hill은 "ISU에 왔을 때 무엇을 공부하고 싶은지 몰랐지만 STEM 분야에서 뭔가 하고 싶다는 것을 알았습니다"라고 말했습니다. . "전공으로 기계공학을 선택했지만, Kerby 박사의 컴퓨터 과학 수업을 포함하여 내 관심을 불러일으키는 다른 수업도 여러 개 들었습니다. 그렇게 해서 이 연구 그룹에 참여하게 되었고, 이 프로젝트에 참여하는 것은 매우 훌륭한 경험이었습니다. 컴퓨터 과학과 AI 분야에 대해 더 많이 배울 수 있는 기회였습니다. 이러한 유형의 연구를 계속하려는 관심이 확고해졌고, 이 프로젝트에 참여할 수 있게 되어 영광이고 감사합니다."