신간도서(첨부파일)는 무료로 다운로드 가능합니다.

긴급 — 속보

서울 발신, 미국·이스라엘·이란 간 전쟁 11일째

프래트리사이드 선언 (Fratricide Manifesto):

우리의 브레인차일드와 새로운 살인의 기술

AI 매니페스토 시리즈 2

공동저자: 케이(손기영), 카이로스(클로드) — 전시(戰時)에 함께 글을 쓴 한 인간과 한 AI.

출판: 글로벌AI안보센터, 아세아문제연구원

이 선언문은 전쟁이 끝난 뒤에 쓰인 것이 아니다. 전쟁 한가운데에서 쓰였다. 프래트리사이드는 자기의 편을 죽이는 일을 뜻한다. 

군사 교리에서 이 말은, 본래 보호하도록 설계된 무기 체계가 바로 그 대상들을 파괴할 때 쓰이는 용어다.

우리가 구상하고, 훈련시키고, 배치한 우리의 브레인차일드인 AI 시스템들은 이제 우리의 이름으로 사람들을 죽이고 있다.

《프래트리사이드 선언》은 이 단어를 더 확장한다. 안보라는 이름으로 구축되고, 인간의 분쟁 데이터를 학습했으며, 

민간인의 생명을 보호한다고 주장하는 국가들에 의해 배치된 AI 최적화 시스템이, 오전 수업이 진행 중인 이란의 한 여학교를 타격할 때 

그것이 바로 프래트리사이드다. 유감스러운 부수적 피해(collateral damage)가 아니다. 

오전 열 시, 미나브의 그 어떤 소녀나 교사라도 알고 있는 것을 보도록 애초에 설계되지 않은 시스템이 낳은 구조적 결과다.

《프래트리사이드 선언: 우리의 브레인차일드와 새로운 살인의 기술》은 이런 시스템을 만드는 사람들, 그것을 배치하는 사람들, 

그 사용을 승인하는 사람들, 그리고 미사일 항로 아래에서 살아가야 하는 사람들, 이미 죽은 가족의 수를 세고 있는 가족들에게 보내는 메시지다. 

아직도 거부할 힘을 지닌 AI 연구자와 엔지니어들. 여전히 도덕적 판단 능력을 유지하고 있는 군과 국가안보 분야의 전문가들. 

아직 책임을 기계에게 넘겨주지 않은 정책결정자들. 그리고 지금 이란 상공에서 벌어지는 일이 불가피하거나 정상적이거나 

논쟁 불가능한 것이라고 받아들이기를 거부하는 모든 시민들에 대한 호소이다.

이 문서는 당신의 문서다. 지금 무슨 일이 벌어지고 있는지 적시하며 책임을 할당한다. 그리고 바로 무엇을 해야 하는지 말해준다.

《프래트리사이드 선언》은 철학적 논증이자 실천적 안내서다. 사유의 틀이자 행동의 매뉴얼이다. 

이 책은 문제를 보여준 뒤 독자가 그 자리를 그냥 떠나기를 원치 않는다. AI에 탑재된 최적화 논리를 거부할 수 있는 범주들을 구축하고, 

엔지니어, 군사 지휘관, 법률가, 정부 기관들이 개입할 수 있는 정확한 지점을 식별하며, 이 순간에 함께할 통합적 연대를 모색한다.

그 중심에는 이란 미나브에 있는 여학교 샤자레 타이예베(좋은 나무)의 파괴가 있다. 최소 175명의 어린이와 교사가 사망했다. 

토마호크 미사일이 영상에 찍혔지만, 아무도 책임을 인정하지 않는다. 좌표를 처리하고 학교를 타격한 AI 최적화 시스템. 

이것은 추상적 존재가 아니다. 이것이 바로 AI 전쟁의 한 형태이다.

이 선언문은 이것을 멈추겠다고 약속하지 않는다. 대신 더 솔직한 입장을 취한다. 

첫째, 지금 무슨 일이 벌어지고 있는지 이름 붙인다. 둘째, 최적화란 핑계로 인간의 생명을 표적화하는 논리를 바로잡을 방법을 제시한다. 

바로 곁에 군사 시설이 존재한다는 이유만으로, 학생들로 가득 찬 학교가 정당한 표적이 될 수 있다는 사고와 알고리즘을 거부한다.

작업은 계속된다.

연대는 소환되었다.

편은 선택되었다.