소식

Mar 12, 2024

의견

광고 지원 게스트 에세이 작성자: Alexander C. Karp Karp 씨는 데이터 분석 소프트웨어를 만들고 미국 국무부와 협력하는 회사인 Palantir Technologies의 CEO입니다.

광고

지원 대상

게스트 에세이

알렉산더 C. 카프

Karp 씨는 데이터 분석 소프트웨어를 만들고 미국 국방부와 협력하는 회사인 Palantir Technologies의 CEO입니다.

1942년, 화가이자 직물 수입업자의 아들인 J. 로버트 오펜하이머(J. Robert Oppenheimer)는 핵무기 개발을 위해 맨해튼 프로젝트에 의해 설립된 군사적 노력인 프로젝트 Y를 이끌도록 임명되었습니다. 오펜하이머와 그의 동료들은 우라늄을 정제하는 방법을 발견하고 궁극적으로 작동하는 원자폭탄을 설계하고 제작하기 위해 뉴멕시코에 있는 원격 실험실에서 비밀리에 작업했습니다.

그는 행동과 탐구에 대한 편견을 가지고 있었습니다.

그는 나중에 미국 비밀을 비밀로 유지하는 데 적합한지 평가할 정부 패널에게 "기술적으로 좋은 것을 발견하면 그대로 실행합니다"라고 말했습니다. “그리고 당신은 기술적 성공을 거둔 후에야 그것에 대해 무엇을 해야 할지에 대해 논쟁합니다. 원자폭탄도 그랬다”고 말했다. 그의 보안 허가는 증언 직후 취소되어 그의 공직 경력이 사실상 끝났습니다.

당대 가장 파괴적인 무기를 만들어내는 자신의 역할에 대한 오펜하이머의 감정은 히로시마와 나가사키에 대한 폭격 이후 바뀌었습니다. 1947년 매사추세츠 공과대학 강의에서 그는 폭탄 개발에 참여한 물리학자들이 “죄를 알고 있으며” 이것이 “그들이 잃을 수 없는 지식”임을 관찰했습니다.

우리는 이제 컴퓨팅 과학에서도 유사한 교차로, 공학과 윤리를 연결하는 교차로에 도달했습니다. 여기서 우리는 아직 완전히 파악하지 못한 힘과 잠재력을 지닌 기술 개발을 진행할지 여부를 다시 선택해야 합니다.

우리가 직면한 선택은 일부 사람들이 인류를 위협하거나 언젠가는 대체할 수 있다고 주장하는 가장 진보된 형태의 인공 지능의 개발을 억제하거나 중단할지 아니면 국제 사회를 형성할 잠재력을 가진 기술로 보다 자유로운 실험을 허용할지 여부입니다. 핵무기가 마지막 정치를 형성한 방식으로 금세기의 정치.

최신 대규모 언어 모델의 새로운 속성, 즉 우리 세계의 작동에 대한 원시적 형태의 지식으로 여겨지는 것을 하나로 묶는 능력은 잘 이해되지 않았습니다. 이해가 부족하여 이 새로운 기술을 처음 접했을 때 집단적인 반응은 경이로움과 두려움이 불안하게 뒤섞인 것으로 나타났습니다.

일부 최신 모델에는 컴퓨터 알고리즘 내에서 조정 가능한 변수인 1조 개 이상의 매개변수가 있는데, 이는 인간의 마음으로는 이해하기 시작할 수 없는 처리 규모를 나타냅니다. 우리는 모델에 매개변수가 많을수록 세계를 더욱 표현하고 반영하는 능력이 더욱 풍부해진다는 사실을 배웠습니다.

AI 모델의 급속한 발전에 비해

원자력 기술로

인공 지능 네트워크가 더 크고 더 강력해짐에 따라 이를 사용하여 매우 효과적인 무기 시스템을 구축하려는 유혹이 더욱 커지고 있습니다. 이는 제2차 세계 대전 중 핵폭탄 발명가들이 직면했던 도덕적 딜레마를 반영합니다.

핵 장치

기계 학습 시스템

폭발적인 생산량(킬로톤)

매개변수 수

10트릴.

50,000

차르 봄바

둘 다 가장 큰

게시된 모델

오늘은 중국인이다

가장 큰 핵

장치가 폭발했습니다

미국에 의해

1,000배

보다 큰

리틀보이

1 트릴.

GPT-4

10,000

GPT-3

1000억.

야마

100억.

그녀에게 줘

100배

더 큰

GPT-2

1이었다.

1,000

1억

1000만

알파고

100

트리니티 테스트

그리고 팻맨

100만

100,000

리틀보이

10

'23

'62

1945년

2006년

AI 모델의 급속한 발전에 비해

원자력 기술로

인공 지능 네트워크가 더 크고 더 강력해짐에 따라 이를 사용하여 매우 효과적인 무기 시스템을 구축하려는 유혹이 더욱 커지고 있습니다. 이는 제2차 세계 대전 중 핵폭탄 발명가들이 직면했던 도덕적 딜레마를 반영합니다.