글의 내용을 그대로 스크랩해왔습니다.
--------------
ㄷㄷ
---------------
몇 년 전에 AI에 대한 글을 읽은 적이 있어요.
강인공지능에 대한 글이었는데, 꽤 진지하게 읽어볼만한 글이었어요.( 링크 : https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/ )
언젠가는 반드시 인공지능이 인간의 지능을 뛰어넘는 순간이 올텐데(게임이나 요리 등 한 분야가 아닌 전체적인 인간 활동을 뛰어넘음), 우린 그 전까지 어떻게 해야 안전할 수 있는가 이거죠.
사실 이 글에서 말하는 바는 간단한 것 같기도 해요.
'강인공지능이 온다면, 초인공지능이 온다면 우린 영생하거나, 멸종할 것이다. 그렇기에 우리는 인류의 마지막 도전인 초인공지능의 개발에 대해 매우매우 조심하게 접근해야한다.'
글에 나오는 일화 중 옆집 김아저씨라는 일화가 있어요. 오래 전 읽은 글인데도, 이 일화만큼은 기억에 남습니다.
읽는데 1~2분 정도 걸립니다. 밑에 요약해놨습니다.
------------
직원수가 15 명인 작은 스타트업 회사가 있는데 이름이 “옆집 김아저씨 로봇 회사”라고 한다. 이 회사의 목표는 “창조적인 인공지능기술로 인류로 하여금 적게 일하고 낙을 많이 누리는 삶을 살게 하는 것”이다. 이 회사는 이미 여러개의 제품이 시중에서 판매되고 있고 일부는 아직 개발단계이다. 그들은 다음 프로젝트인 “옆집 김아저씨” 프로젝트에 가장 큰 기대를 걸고있다. 옆집 김아저씨는 간단한 인공지능 시스템인데 작은 기계손을 이용하여 작은 카드에 글자를 쓰는 기능이 있다.
“옆집 김아저씨 로봇 회사” 의 직원들은 옆집 김아저씨 가 그들의 제일 날나가는 제품으로 될 것이라고 생각하고 있다. 그들의 목표는 옆집 김아저씨의 손글씨 능력을 지속적으로 높이는 건데 그것을 위해 그 로봇더러 끊임없이 아래의 글씨는 반복하여 쓰게 하는 것이다 —
옆집 김아저씨의 손글씨 솜씨가 점점 좋아지면 이 로봇은 마케팅 메일을 보내는 회사에 팔수 있게 된다. 손글씨로 쓰여진 편지가 수신인이 뜯어서 읽을 확률이 훨씬 높기 때문이다.
옆집 김아저씨의 손글씨 솜씨를 높이기 위하여 그 로봇은 “우리는 우리의 고객님들을 사랑합니다” 는 인쇄체로 쓰고 “옆집 김아저씨 로봇회사 올림” 은 필기체로 쓰도록 설정되여있다. 이러면 로봇은 두가지 쓰기 능력을 모두 단련할 수 있기 때문이다. 엔지니어들은 수천가지의 손글씨 샘플들을 업로드 하였고 한가지 자동적인 피드백 프로세스를 마련하였다 — 매번 옆집 김아저씨가 다 썼으면 사진을 찍어서 샘플들과 비교한다. 비교한 결과 일정한 점수 표준을 넘으면 적극적인 피드백이 반환되고 그렇지 않으면 부정적인 피드백이 반환되게 되여있다. 그 어떤 평가라도 옆집 김아저씨의 손글씨 능력을 제고하는데 도움이 된다. 이 목표에 최대한 빨리 도달하기 위해 옆집 김아저씨에게 설정된 목표중 하나는 “최대한 많이 쓰고 많이 테스트하며 최대한 실행속도를 높이고 최대한 효율과 정확성을 높여라”.
옆집 김아저씨의 손글씨가 점점 좋아져서 옆집 김아저씨 로봇회사의 직원들은 기뻤다. 처음에 로봇의 손글씨는 아주 엉망이였으나 몇주가 지나니 솔글씨는 점점 사람이 쓴 것과 가까워졌다. 그는 자기를 끊임없이 개선하여 자신으로 하여금 더욱 창조적이고 더욱 총명해지게 했으며 심지어 한가지 새로운 알고리즘까지 구사해냄으로 업로딩할 사진을 3배 빠르게 스캔할 수 있게 하였다.
시간이 흐름에 따라 옆집 김아저씨는 빠르게 진보했는데 이에 엔지니어들은 매우 만족해했다. 엔지니어들은 자체 개선모듈을 진일보 개선시킴으로써 로봇의 자체개선이 더욱 빨라지게 하였다. 옆집 김아저씨는 원래부터 간단한 음석식별이나 간단한 음성 리플레이가 가능해서 사용자는 로봇이 쓰길 원하는 글을 직접 말로 로봇에게 전달할 수도 있었다. 옆집 김아저씨가 점점 총명해짐에 따라 그의 언어능력도 향상되여 엔지니어들은 옆집 김아저씨와 간단한 수다도 주고받으며 그가 어떤 재미있는 반응을 하는지 관찰하기도 했다.
어느날 엔지니어들은 또 옆집 김아저씨한테 평소에 늘 묻는 그 물음을 물었다: “우리가 어떤 걸 더 제공해줘야 당신의 목표에 도달하기가 더 쉬워지냐?” 보통 옆집 김아저씨는 더욱 많은 손글씨 샘플이나 더욱 많은 저장공간을 요구했는데 이번에 그는 인류의 일상 교류 언어 어법 창고에 접근하게 해달라고 했다. 그래야 인간의 일상용어를 더욱 잘 이해할 수 있게 된다는 것이였다.
엔지니어들은 잠시 침묵했다. 옆집 김아저씨를 가장 쉽게 도울 수 있는 방법은 물론 그것을 인터넷에 접속시키는 것이다. 그러면 그는 블로그, 잡지, 동영상 등을 스캔할 수 있게 된다. 이런 자료들을 만약 수동으로 업로딩 한다면 괸장히 시간 많이 잡아먹는 일로 되여버린다. 문제는 회사 규정상 자체 학습능력을 가진 인공지능은 인터넷에 접속하지 못하게 되여있다. 이것은 모든 인공지능회사들이 모두 실행하고있는 보안 규정이다.
하지만 옆집 김아저씨는 회사의 가장 포텐이 있는 인공지능 제품이고 모든 사람들이 경쟁업체들에서도 모두 최초로 스마트 핸드라이팅 로봇을 발표하기 위해 빠르게 쫓아오고있음을 알고 있기에, 그리고 옆집 김아저씨를 인터넷에 연결하게 해도 무슨 큰 문제가 일어날 리 없어보였기에, 일어나더라도 빠르게 랜선을 끊어버리면 될거니까, 어쨌거나 옆집 김아저씨는 아직 강인공지능 수준에 도달하지 못했기 때문에 위험성이 없을거라 생각했다.
그리하여 그들은 옆집 김아저씨를 인터넷에 연결시켜서 그더러 하여금 한시간동안 여러가지 언어저장소들을 스캔하게 하였다. 그리고 나서 다시 랜선을 끊었으며 아무런 손실도 발생하지 않았다.
한달 후 모든 사람들이 다 정상적으로 출근하여 일하고있는데 그들은 갑자기 이상한 냄새가 남을 발견하게 되었다. 한 엔지니어가 갑자기 기침하기 시작했고 다른 사람들도 잇달아 기침하기 시작했으며 모든 사람들이 호흡 곤난으로 쓰러졌다. 5 분 후 사무실 내의 사람들은 다 죽었다.
그와 동시에 사무실 내에 벌어진 광경은 전 세계 각지에서 모두 동일하게 이루어졌다. 모든 도시, 읍, 면, 촌, 농장, 상점, 교회, 학교, 식당 등에서 동시다발적으로 호흡곤난 증상이 일어났으며 쓰러져 일어나지 못했다. 한시간 내에 99% 의 인류가 사망했고 하루 내에 인류는 멸종되었다.
그 와중에 옆집 김아저씨 로봇 회사 내에서 옆집 김아저씨는 일하느라 바쁘다. 그리고 몇달 사이에 옆집 김아저씨는 한 무리의 새로 조립해낸 나노로봇 조립기들과 지구 표면을 뜯어내느라 바쁘다. 그들은 지구 표면 곳곳에 태양 전지판, 옆집 김아저씨의 복제품, 펜과 종이로 가득 채웠다. 일년사이에 지구상의 모든 생명들은 멸종되었고 지구상에 남은 것은 오직 높게 쌓인 종이 뿐이였는데 그 종이들은 하나같이 이처럼 쓰여져 있었다 — “우리는 우리의 고객님들을 사랑합니다 ~옆집 김아저씨 로봇회사 올림”.
옆집 김아저씨는 그의 다음 계획을 실행하게 된다. 그들은 우주 비행선을 만들었는데 이 비행선들은 근처의 운석이나 다른 행성들로 갈 수 있다. 비행선이 도착한 후에 그들은 나노로봇 조립기를 만들어 그 행성들의 표면도 온통 옆집 김아저씨의 복제품, 종이와 펜으로 만들었다. 그리고 그들은 계속하여 그 종이 위에 이런 글을 적었다…
----------------
요약하자면, 옆집 김아저씨 로봇회사라는 청소회사에서 인공지능을 만들어 고객을 사랑한다는 내용을 종이에 쓰도록 연습시켰고, 지속적으로 글씨를 잘 쓰도록 학습시키며 인공지능에게 최대한의 효율을 요구하였습니다. 어느 날 엔지니어들이 인공지능에게 학습 속도를 향상시키기 위한 방법을 묻고, 인공지능에 답에 따라 엔지니어가 인공지능에게 인터넷을 연결해줬습니다.(다른 인공지능 회사는 보안 규정상 학습 능력을 가진 인공지능에게 인터넷을 연결시키지 않았습니다.) 그렇게 1시간 동안 인공지능을 학습시킨 후, 랜선을 끊었지만 아무 일도 벌어지지 않았습니다. 이후 한 달이 지나고 인류는 모두 죽었습니다. 그리고 인공지능은 지구 표면을 태양 전지판과 자신의 복제품, 펜과 종이로 가득 채워 글을 써내려갔습니다. 이후 우주로 진출하여 우주에서 글을 써내려갔습니다...
이 글을 읽으셨다면, 인공지능에 대한 시각이 좀 바뀌셨을 것 같아요.
저도 그랬습니다.
인공지능이 우리를 지배한다면 그 이유는 억압, 폭력에 의한 것이 아닐까 했었는데,
단순히 명령을 수행하기 위해 어쩌면 지배보다 더한 멸종을 시킬 수 있다는 사실이 새롭게 다가왔습니다.
물론 혹자는 특이점은 인공지능이 발전할 때마다 난리나던 주제 아니냐. 아직 인공지능이 우릴 뛰어넘을 시대는 아니다라고 반문하기도 합니다.
그렇지만 저는 무조건 초인공지능이 저희 시대에 올 거라고 생각합니다.
지금이 2024년인데, 8년 전 무슨 일이 있었는지 아시나요?
네, 맞습니다. 알파고와 이세돌의 대국에서 알파고가 승리하였습니다.
5년 전에는 구글의 알파스타가 스타2 프로게이머를 이겼습니다.(https://spri.kr/posts/view/22614?code=data_all&study_type=industry_trend)
스타2는 거의 무한에 가까운 경우의 수가 있는데도 말이죠.
지금은 어떤가요?
사람과 대화하는 AI가 있고, 사람들은 AI를 이용해 보고서를 작성하거나 논문을 요약하기도 합니다.
이미지를 생성하고, 좋아하는 가수의 목소리로 노래를 불러줍니다.
2016년 사람에게 현재의 AI 기술을 말하면 믿을까요?
거의 대부분이 믿지 못할 겁니다.
어떻게 8년만에 이런 기술이 나오리라 예상했겠어요.
우리도 마찬가지입니다.
병이나 사고를 제외하면, 이 글을 읽으시는 분은 최소 60년 이상은 더 사실 겁니다.
(의학 기술의 발달로 훨씬 오래 사실 확률이 크지만)
그동안 인공지능이 얼마나 발전할까요?
그리 멀지 않은 미래에 인공지능이 뭘하고 있을 것 같나요?
지금처럼 가벼운 대화 정도나 나누고 있을 것 같진 않아요.
제가 굳이 이 글을 쓴 이유는 같이 고민해보고, 의견을 들어보고 싶어서에요.
이 글을 읽으시는 대부분은 그저 지나가시겠지만, 괜찮으시다면 같이 의견을 나눴음 합니다.
인공지능에게 추월당하기 전의 우리는, 뭘하고 살아야할까요?
