인공지능은 이미 주문형으로 어떤 스타일이든 걸작을 제작함으로써 예술 세계를 놀라게 하고 있다. 방대한 저장소에서 불가해한 사실을 파헤치면서 시를 쓸 수 있다. AI가 최고의 검색 엔진의 포괄적인 힘을 전달하면서 음유시인처럼 행동할 수 있다면, 보안 프로토콜을 파괴하는 것 또한 무리없을 것이다.

답은 복잡하고, 빠르게 진화하며, 여전히 모호하다. AI는 공격으로부터 컴퓨터를 방어하는 일부를 더 쉽게 만든다. 다른 부분들은 더 도전적이며 인간이든 인공지능이든 결코 양보하지 않을 수 있다. 하지만 어느 것이 어떤 것인지 아는 것은 어렵다.

새로운 모델의 급속한 진화는 AI가 어디에 도움이 될지 확실하지 않을지 말하기 어렵게 만든다. 가장 위험한 진술은 ‘AI는 절대 그렇게 하지 않을 것’ 일 수 있다.

인공지능을 위한 사이버 보안 사용 사례

컴퓨터 보안 또한 다면적이며 방어 시스템은 수학, 네트워크 분석 및 소프트웨어 엔지니어링의 난해한 분야에 주의를 기울여야 한다. 문제를 더 복잡하게 만들기 위해, 인간은 시스템의 큰 부분이고, 그들의 약점을 이해하는 것은 필수적이다.

이 분야는 또한 매우 다를 수 있는 많은 하위 전문 분야의 혼합이다. 예를 들어, 악의적인 패킷을 탐지하여 네트워크 계층을 보호하는 것은 해시 알고리즘을 강화하는 데 유용하지 않을 수 있다.

새로운 기술을 사용하여 암호화 알고리즘을 해독하는 방법을 탐구한 리실리안의 폴 코쳐 대표는 "분명히 AI로 진전을 이룰 수 있는 몇 가지 영역이 있다"라고 말한다. 또한 그는 "버그 탐색 및 이중 확인 코드의 경우, 퍼징(fuzzing, 결함을 유발하기 위해 작고 무작위적인 오류를 도입하는 과정)보다 더 나을 것"이라 덧붙였다.

일부는 이미 이러한 접근 방식으로 성공을 거두고 있다. 가장 간단한 예는 오래된 지식을 성문화하고 다시 적용하는 것을 포함한다. 코인베이스의 이사인 코너 그로건은 챗GPT에게 이더리움 블록체인에서 실행 중인 라이브 계약을 확인해 달라고 요청했다. AI는 약점을 수정하기 위한 제안과 함께 간결한 목록을 가지고 돌아왔다.

인공지능의 메커니즘은 불투명할 수 있지만, 어떤 형태로든 과거 유사한 약점에 대한 공개 토론에 의존했을 것이다. 기존의 통찰력을 새로운 코드로 정렬하고 전문가의 맞춤형 프로그래밍이나 지침 없이 해결해야 할 문제의 유용한 펀치 목록을 생성할 수 있었다.

마이크로소프트는 이 접근법을 상용화하기 시작했다. 프로토콜 및 암호화 알고리즘에 대한 기본 지식을 갖춘 챗GPT4 버전인 AI 보안 코파일럿(AI Security Copilot)을 교육하여 프롬프트에 응답하고 인간을 지원할 수 있다.

일부는 대규모 언어 모델에 포함된 깊고 광범위한 지식 저장소를 이용하고 있다. 클래로티의 연구원들은 코딩에 대한 백과사전적 지식을 가진 시간 절약 보조 도구로 챗GPT에 의존했다. 그들은 챗GPT를 사용하여 여러 약점을 동시에 이용하는 데 필요한 코드를 작성하는 해킹 대회에서 우승할 수 있었다.

공격자들은 또한 코드를 형성하고 재구성하기 위해 AI의 능력을 사용할 수 있다. 렐리아퀘스트(ReliaQuest)의 조 팔틀로 대표는 “AI가 실제로 어떻게 생각하는지 알 수 없으며, 이러한 불가해성이 유용할 수 있다”고 말한다. 또한 그는 "당신은 이미 코덱스나 깃헙 코파일럿(Github Copilot)과 같은 코드 완성 모델이 사람들이 소프트웨어를 작성하는 것을 돕는 것을 볼 수 있다"고 덧붙였다.

팔틀로 대표는 "우리는 이미 AI에 의해 생성된 악성 프로그램의 돌연변이를 보았다. 예를 들어, 언더핸드 C 콘테스트 우승자에 대한 모델을 훈련하는 것은 효과적인 백도어를 고안하는 데 절대적으로 도움이 될 수 있다"고 말했다.

일부 잘 구축된 회사는 AI를 사용하여 기업 환경에서 네트워크 이상 및 기타 문제를 찾고 있다. 그들은 의심스러울 수 있는 행동을 표시하기 위해 기계 학습과 통계 추론의 일부 조합에 의존한다.

AI를 사용하여 약점 찾기, 암호화 해제

그러나 이러한 검색이 데이터 흐름, 특히 암호화된 데이터 흐름을 얼마나 깊이 들여다볼 수 있는지에는 한계가 있다. 공격자가 어떤 암호화된 패킷이 양호한지 또는 불량인지 확인할 수 있으면 기본 암호화 알고리즘을 위반할 수 있다.

더 깊은 문제는 AI가 컴퓨터 보안의 가장 기본적인 계층에서 약점을 찾을 수 있는지 여부다. 주요 발표는 없었지만, 어떤 것이 효과가 있을지 또는 안 있을지에 대해 궁금해하고 심지어 추측하기 시작했다.

더 깊은 약점에 대한 명확한 답은 없다. 인공지능들은 인간처럼 행동하도록 프로그래밍될 수 있지만, 그들의 밑에는 근본적으로 다를 수 있다. 큰 모형은 여러 계층으로 배열된 통계 관계의 모음이다. 그들은 크기에 따라 이점을 얻으며 최근의 많은 발전은 단순히 매개 변수와 가중치의 수를 빠르게 확장하는 것에서 비롯됐다.

그들의 핵심은 대규모 기계 학습 모델을 구축하기 위한 많은 가장 일반적인 접근 방식이 매우 큰 행렬과 텐서의 시퀀스를 함께 연결하여 많은 양의 선형 수학을 사용한다. 선형성은 훈련에 대한 피드백의 일부를 가능하게 하기 때문에 알고리즘의 중요한 부분이다.

그러나 최고의 암호화 알고리즘은 비선형적으로 설계되었다. AES 또는 SHA와 같은 알고리즘은 S-box로 알려진 함수 집합을 통해 데이터를 반복적으로 스크램블링한다. 이러한 기능은 매우 비선형적으로 설계되었다.

더 중요한 것은 알고리즘 설계자가 일부 잘 알려진 통계 공격에 대해 보안을 유지하기 위해 충분한 시간을 적용하도록 보장했다는 점이다.

이러한 공격 중 일부는 현대 AI와 많은 공통점을 가지고 있다. 수십 년 동안 암호학자들은 AI가 훈련 데이터를 모델링하는 것과 거의 같은 방식으로 암호화 알고리즘을 통해 데이터 흐름을 모델링하기 위해 대규모 통계 모음을 사용했다. 과거에는 암호화 알고리즘에 대한 지식을 사용하여 통계를 수정하는 복잡한 작업을 수행했다.

가장 잘 알려진 예 중 하나는 종종 차등 암호 분석이라고 불린다. 아디 사이르와 엘리 비함에 의해 처음 공개적으로 설명되었지만 NIST의 데이터 암호화 표준과 같은 초기 알고리즘 설계자 중 일부는 접근 방식을 이해하고 이에 대한 알고리즘을 강화했다고 말했다.

차등 암호 분석에 대해 강화된 AES와 같은 알고리즘은 동일한 선형 통계 접근 방식을 배포하는 AI의 공격을 견딜 수 있어야 한다.

더 깊은 근본적인 문제들이 있다. 많은 공개 키 알고리즘은 수천 자리의 정확도를 가진 숫자에 의존한다. UCSD의 나디아 행인거 암호학자는 "이것은 구현 세부사항에 불과하다. 하지만 이 모델들은 중량이 부동하며 정밀도가 매우 중요하기 때문에 그보다 더 깊이 들어갈 수 있다"고 설명한다.

많은 기계 학습 알고리즘은 엉성하고 비속어로 가득하며 단백질 문법의 시대에 인간 언어와 같은 부정확한 영역에서 성공하는 데 필요하지 않았기 때문에 종종 정밀도를 줄인다.

이는 기성 툴 중 일부가 암호 분석에 적합하지 않을 수 있음을 의미한다. 일반 알고리즘이 적용될 수 있으며 일부는 이미 이 주제를 검토하고 있다.

더 큰 규모의 상징적 모델은 AI를 더 큰 위협으로 만들 수 있다. 그러나 어려운 질문은 대규모 규모가 변화를 가져올지 여부다. 힘의 증가가 AI가 더 지능적으로 보이는 데 큰 도약을 할 수 있게 했다면, 아마도 AI가 이전의 차등 알고리즘보다 더 많은 구멍을 찾을 수 있게 해주는 문턱이 있을 것이다. 아마도 오래된 기술 중 일부는 기계 학습 알고리즘을 더 효과적으로 안내하는 데 사용될 수 있다.

일부 인공지능 과학자들은 더 논리적인 접근법과 공식적인 방법으로 대규모 언어 모델의 순수한 힘을 결합하는 방법을 상상하고 있다. 수학적 개념에 대한 추론을 위해 자동화된 메커니즘을 배치하는 것은 단순히 훈련 세트의 패턴을 모방하려고 시도하는 것보다 훨씬 더 강력할 수 있다.

양자 시대의 저자이자 보안 연구원인 심슨 갈핀켈은 "이러한 큰 언어 모델은 실제로 생성하고 있는 것에 대한 상징적인 모델이 부족하다"고 설명한다. 또한 그는 "보안 속성이 포함될 것이라고 가정할 이유는 없지만, 이미 보안 취약점을 찾기 위해 공식적인 방법을 사용한 경험이 많다"고 덧붙였다.

인공지능 연구원들은 더 나은 상징적 추론과 접목하여 큰 언어 모델의 힘을 확장하기 위해 노력하고 있다. 예를 들어, 울프램 알파의 개발자 중 한 명인 스티븐 울프램은 이것이 목표 중 하나라고 설명했다.

그는 "현재 울프램 언어에는 많은 종류의 것들에 대한 엄청난 양의 컴퓨터 지식이 내장되어 있다" 고 말하며, "하지만 완전한 상징적 담론 언어를 위해서 우리는 세상의 일반적인 것들에 대한 추가적인 계산을 구축해야 할 것이다. 만약 물체가 A에서 B로, B에서 C로 이동한다면, 그것은 A에서 C로 이동한다"고 덧붙였다.

공개 키 암호화 분야를 개척한 암호학자인 윗필드 디피는 인공지능으로 이와 같은 접근 방식을 취하면 수학의 새로운 미개척 분야에서 진전을 이룰 수 있을 것이라고 생각한다. 그들은 가치가 있을 만큼 인간과 충분히 다르게 생각할지도 모른다.

그는 "사람들은 사람들이 증명한 정리들, 즉 사람들이 증명한 정리들을 많이 발견한 알려진 이론들과 비교하여 기계 수학자들을 시험하려고 한다"고 말한다. 또한 그는 "인간의 직관력이 떨어지는 고차원 기하학과 같은 것을 시험해 보고 우리가 할 수 없는 것을 발견하는지 보는 것은 어떨까"에 대한 질문을 덧붙였다.

암호 분석 영역은 아직 테스트되지 않은 매우 다양한 수학 영역 중 하나일 뿐이다. 수학 자체가 무한하기 때문에 가능성은 무궁무진할 수 있다. 디피는 "솔직히 말해서, AI가 비용보다 더 가치 있는 시스템에 침입하는 데 기여할 수 있다면, 사람들은 그것을 사용할 것"이라고 예측한다. 진짜 문제는 어떻게 하느냐다.