샘 알트먼 "AI의 발전은 보다 파괴적 일 것(AI advancement will be more disruptive)"

"미래 AI 발전은 보다 파괴적일 것"

지난 2022년 챗GPT라는 생성AI를 내놓아, 창작 시장을 완전히 흔들어 놓은 오픈AI(OpenAI). 오픈AI의 공동 창업주 샘 알트먼(Sam Altman)이 향후 AI분야 발전이 보다 더 가속화될 것이라고 표현했다.

인간의 지적 활동 수준 인공일반지능(AGI) 등장

샘 알트먼은 2024년 12월 5일 뉴욕에서 열린 뉴욕타임스 딜북(Newyork Times) 딜북 서밋에서 “AI분야 주요 발전이  예상보다 더 파괴적 일 것이라고 믿는다”고 밝혔다.

그는 “이르면 내년(2025년)부터 업계에서 AI 시스템에 (인간처럼) 매우 복잡한 작업을 부여하고 다양한 도구를 사용해 완성하는 인공일반지능(AGI, artificial general intelligence)의 첫 사례를 보게 될 것”이라고  예측했다. 인간의 지적 활동을 대신하거나 돕는 사람 수준의 AI가 등장할 것이라는 이야기다.

알트먼은 “2025년에는 우리가 보는 시스템을 사람들이 '와, 내가 예상했던 것과 달라졌네'라고 말할 수 있는 시스템을 갖추게 될 것"이라고 설명했다.

알트먼은 2015년  ChatGPT와 DALL-E를 개발한 비영리 연구소 오픈AI(OpenAI)를 공동 설립했다. 2014년부터 2019년까지  스타트업 액셀러레이터인 와이콤비네이터(Y Combinator) 대표를 역임했다. 1년 전 오픈AI 이사회는 "이사회와의 소통"에 관한 분쟁으로 그를 해고했다가 일주일도 안돼 그를 다시 복귀시키기도 했다.

처음 알트먼은 AGI 도입과  다음 단계 '초지능('superintelligence)이 도입되더라도 첫 효과는 미미할 것이라고 설명했다. 그러나 결과적으로 AGI는 사람들이 생각하는 것보다 더 격렬한 결과를 낳을 것이라고 진단했다. 알트먼은 “인류 역사 상 주요 기술 성과가 있을 때마다 상당한 일자리 이동이 있었다”고 덧붙였다.

Artificial General Intelligence (AGI) at the level of human intellectual activity is coming
Sam Altman said at the New York Times Dealbook Summit in New York City on December 5, 2024, that he believes "major advances in AI will be more disruptive than expected."

"As early as next year (2025), we will see the first examples of artificial general intelligence (AGI) in the industry, where AI systems are given very complex tasks (like humans) and use a variety of tools to complete them," he predicted. We're talking about human-level AI that replaces or aids human intellectual activity.

"By 2025, we'll have systems that people will look at and say, 'Wow, that's not what I expected,'" Altman explained.

Altman co-founded OpenAI, the nonprofit lab that developed ChatGPT and DALL-E, in 2015. From 2014 to 2019, he was president of startup accelerator Y Combinator.

A year ago, the OpenAI board fired him over a dispute about "communication with the board," only to reinstate him less than a week later.

Initially, Altman explained that the introduction of AGI, and even the next level of "superintelligence," would have a small initial impact.

But in the long run, he said, AGI will have more violent consequences than people realize. "Every major technological achievement in human history has been accompanied by significant job displacement," Altman added.

AI와 안전은 주요 이슈

최근 붉어지고 있는 AI의 지적재산권 침해, 윤리적인 이슈 등에 대한 질문도 나왔다. 그는 오픈AI가 안전에 소흘리 한다는 비판에 “이 관점에 저는 우리의 실적을 지적하고 싶다"라고 우회적으로 답했다(I’d point to our track record)

알트먼은 챗GPT(ChatGPT) 글로벌 이용자는 3억 명에 달한다고 설명했다.

가장 많은 사람들이 이용하는 생성AI인 만큼, 안전성이 검증됐다는 설명이다. 그는 “대부분 사회에서 챗GPT는 수용 가능한 수준의 안전성과 견고함을 갖춘 것으로 간주되고 있다”며 “챗GPT가 안전하지 않다고 생각하는 사람들도 당연히 있다. 그래서 반복적인 배포가 중요하며 위험이 낮을 때 시작해야 한다고 믿는다"고 말했다.

AI and safety are key issues

Questions were also asked about intellectual property infringement and ethical issues in AI, which have come under fire recently. Altman responded to criticism of OpenAI's focus on safety by saying, "I'd point to our track record."

Altman explained that ChatGPT has 300 million global users. As the most used generative AI, it's proven to be safe, he said. "In most societies, ChatGPT is considered to have an acceptable level of safety and robustness," he says.

"Of course, there are some people who think it's not safe. That's why we believe iterative deployment is important and should start when the risk is low."

AI는 트랜지스터

알트만은 AI의 출현을 글로벌 경제를 변화시킨 트랜지스터(transistor)의 발명에 비유했다.

트랜지스터는 기존 진공관의 단점(큰 부피, 높은 전력 소모, 짧은 수명)을 극복하며 전자기기의 소형화와 효율성을 크게 향상시켰다.

트랜지스터는 라디오, TV, 컴퓨터 등 다양한 전자기기의 핵심 부품으로 자리 잡으며, 이러한 기기들의 대중화와 발전을 가능하게 했다. 그는 “놀라울 정도로 성능이 뛰어난 AI 모델이 널리 보급돼 모든 분야에 사용될 것”이라며 “추론 엔진인 AI 자체가 상품화될 것”이라고 말했다.

AI is a transistor

Altman likens the emergence of AI to the invention of the transistor, which transformed the global economy.

The transistor overcame the drawbacks of traditional vacuum tubes (large volume, high power consumption, and short lifespan) and greatly improved the miniaturization and efficiency of electronics.

Transistors became the core component of a wide range of electronic devices, including radios, televisions, and computers, enabling the democratization and advancement of these devices. "Incredibly powerful AI models will become widespread and used in all sorts of applications," he said, "and AI itself, the inference engine, will become commoditized."

알트먼 “일론 머스크가 자신을 슬프게 만들었다”

오픈AI 공동 창립자이자 테크 업계 거물인 일론 머스크(Elon Musk)는 오픈AI(OpenAI)가 원래의 사명을 벗어났다며 오픈AI(OpenAI)와 알트만(Altman)을 고소했다. 비영이 법인이는 사명을 벗어나 영리 활동으로 AI의 안전에 악영향을 미치고 있다는 이야기다.

소송에서 머스크는 “알트먼과 그의 공범들에게 배신당했다. 기만과 속임수는 셰익스피어에 버금가는 수준"이라고 말한 것으로 알려졌다. 머스크는 이후 자신의 AI 스타트업인 xAI를 설립했다.

알트먼은 OpenAI를 시작할 때만 해도 창립자들은 제품 개발에 막대한 자본이 필요하다는 사실을 몰랐고 상용 제품을 출시할 것이라고는 예상하지 못했다고 말했다.

그는 "제품이나 수익원을 확보할 수 있을지는 확실하지 않았다. 그러나 챗GPT(ChatGPT)가 출시된 후 상황이 바뀌었다. 회사 이사회는 영리 기업으로 전환하기 위한 방법을 결정하기 위해 노력 중”이라고 말했다.

알트먼은 머스크의 법적 조치가 자신을 "엄청나게 슬프게 만들었다"고 말했다. 그는 "저는 일론 머스크를 영웅으로 생각하며 자랐다. 일론이 하는 일은 세상에 정말 놀라운 일이라고 생각했다”고 설명했다. 또 그는  "어느 순간  머스크는 OpenAI에 대한 믿음을 완전히 잃었다”며 “머스크의 XAI가 "정말 심각한 경쟁자가 될 것"이라고 생각한다고 말했다.

앨트먼은 “머스크가 도널드 트럼프와의 정치적 영향력을 이용해 경쟁사를 해칠 것이라고 믿지 않는다”며 그러한 행동은 지극히 비미국적"이라고 말했다.(profoundly un-American)

Altman "Elon Musk Made Him Sad"

OpenAI co-founder and tech mogul Elon Musk is suing OpenAI and Altman, claiming that the organization has strayed from its original mission.

The idea is that the non-profit entity has strayed from its mission and is compromising the safety of AI by engaging in for-profit activities. In the lawsuit, Musk said, "I have been betrayed by Mr. Altman and his co-conspirators.

The deceit and deception is of Shakespearean proportions," Musk is quoted as saying in the lawsuit. Musk has since founded his own AI startup, xAI.

Altman said that when they started OpenAI, the founders didn't realize they would need so much capital to develop the product and didn't expect to launch a commercial product. "We weren't sure if we would ever have a product or a revenue stream, but that changed after the launch of ChatGPT," he says. The company's board of directors is working to determine how to transition to a for-profit company."

Altman said Musk's legal action made him "incredibly sad". "I grew up thinking of Elon Musk as a hero," he said. I grew up thinking of Elon Musk as a hero. I thought what he was doing was amazing for the world," he explained. "At some point, he completely lost faith in OpenAI," he said, adding that he thinks Musk's XAI is "going to be a really serious competitor."

"I don't believe Musk would use his political leverage with Donald Trump to hurt a competitor," Altman said, adding that such behavior would be "profoundly un-American."(profoundly un-American)

요즘 오픈AI(OpenAI)는 언론사들의 주요 소송 대상이다.  

뉴욕타임스는 오픈AI가 뉴욕타임스 기사를 사용하여 시스템을 훈련시킴으로써 대규모 저작권 침해를 저질렀다고 주장하며 소송을 제기했다.

2024년 11월 말에는 오픈AI(OpenAI)는 자사의 생성AI 비디오 툴 소라(Sora)의 공개 접속을 차단했다. 시스템의 초기 테스터에 동의했던 아티스트들이 자신들이 제품 홍보와 무급 R&D에 악용되고 있다고 불만을 제기하며 시위를 벌인 데 따른 조치였다.

저작권 침해에 대해 알트먼은 “공정 사용에 대한 논의(discussions of fair use)는 잘못된 논의이며 업계는 창작자에게 AI를 보상할 수 있는 "새로운 경제 모델(new economic models)을 찾아야 한다고 말했다. 딜북 진행자  앤드류 로스 소킨은 이런 논쟁들이 결국 사법 시스템에서 해결될 것이라고 답했다.

수스만 고드프리(Susman Godfrey) 파트너이자 뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 제기한 소송의 담당 수석 변호사 이안 크로스비(Ian Crosby)는 딜북 인터뷰 이후 성명을 내 “알트먼은 작가, 사진작가, 예술가 및 기타 창작자가 창작물에 대한 대가를 받을 자격이 있다는 점을 올바르게 인식하고 있다”며 “하지만, 그가 놓치는 것은 바로 이것이 저작권법이 존재하는 이유이며, 법과 저작권 소유자의 권리를 준수하는 새로운 기술을 구축할 수 있는 방법이 있다는 것”이라고 설명했다.

그는“ 역사는 두 가지를 모두 달성하는 것이 전적으로 가능하다는 것을 반복해서 보여줬다”고 강조했다. 법적으로 충분히 새로운 AI수익 모델을 찾을 수 있다는 지적이다.

These days, OpenAI is a major target of lawsuits by journalists.

The New York Times filed a lawsuit alleging that OpenAI committed massive copyright infringement by using New York Times articles to train its system.

In late November 2024, OpenAI blocked public access to its generative AI video tool Sora. The move came after artists who had agreed to be early testers of the system protested, complaining that they were being used for product promotion and unpaid R&D.

On copyright infringement, Altman said that "discussions of fair use are the wrong discussion" and that the industry needs to find "new economic models" to compensate creators for AI. Dealbook host Andrew Ross Sorkin responded that these debates will eventually be resolved in the judicial system.

"Altman correctly recognizes that writers, photographers, artists, and other creators deserve to be paid for their work," Ian Crosby, a partner at Susman Godfrey and lead attorney in the New York Times' lawsuit against OpenAI and Microsoft, said in a statement after the Dealbook interview, "but what he misses is that this is exactly why copyright law exists, and that there are ways to build new technologies that comply with the law and the rights of copyright owners."
"History has shown time and time again that it is entirely possible to achieve both," he emphasized.

The point is, it's entirely possible to find new AI revenue models that are legal enough.

“오픈 AI와 마이크로소프트는 경쟁 관계”

2024년 10월 오픈AI는 마이크로소프트와 엔비디아를 비롯한 투자자들로부터 66억 달러의 신규 자금을 유치하여 기업가치를 1,570억 달러로 평가받았다. 오픈AI는 올해 초부터 1,000명 이상의 직원을 채용한 후 현재 약 1,700명의 직원을 보유하고 있다.

알트만은 오픈AI(OpenAI)와 마이크로소프트(Microsoft)의 관계에 대해 "불협화음이나 도전"이 없었던 것은 아니지만 전반적으로의 협업은 "두 회사 모두에게 긍정적”이라고 인정했다. 알트먼은 “긴장이 없는 것은 아니지만 전반적으로 양사 우선 순위는 일치한다”고 말했다.

오픈AI는 최근 인터넷 검색툴을 내놨다. 이에 대해 알트먼은  테크 회사를 운영하는 것이 "어릴 적 꿈이었던 일"이라고 말했다. 알트먼은 “이 제품이 회사에서 출시한 제품 중 가장 마음에 드는 제품”이라며 “이 도구는 제 인터넷 사용 방식을 완전히 바꿔놨다”고 말했다.

"Open AI and Microsoft are competitors"

In October 2024, OpenAI raised $6.6 billion in new funding from investors including Microsoft and Nvidia, valuing the company at $157 billion. OpenAI now has about 1,700 employees after hiring more than 1,000 since the start of the year.

Altman acknowledged that the relationship between OpenAI and Microsoft has not been without "dissonance or challenges," but overall the collaboration has been "positive for both companies." "It's not without tension, but overall our priorities are aligned," Altman said.

OpenAI recently released an internet search tool. Altman said that running a tech company was "a childhood dream of mine."

"It's my favorite product the company has ever released," Altman said, "and it has completely changed the way I use the internet."