퓨리오사AI는 무엇을 만드는 회사일까? GPU와 다른 국산 AI 반도체 쉽게 이해하기

최근 퓨리오사AI가 2세대 AI 반도체 레니게이드(RNGD)의 양산과 공급 확대를 본격화한다는 소식이 이어지고 있다. 국산 AI 반도체가 실제로 제품을 찍어내 데이터센터에 공급하는 단계에 들어섰다는 점에서, 이는 단순한 신제품 소식이 아니라 국내 AI 반도체 산업 전체가 ‘가능성’ 단계에서 ‘실물 공급’ 단계로 넘어가고 있음을 보여주는 신호로 업계가 주목하는 뉴스다.

그런데 많은 독자는 퓨리오사AI라는 이름은 들어봤어도 정확히 어떤 회사인지는 잘 모른다. 엔비디아와 경쟁한다는 이야기도 자주 들리는데, 정확히 무엇이 같고 무엇이 다른지는 헷갈리기 쉽다. “국산 GPU가 엔비디아 GPU와 1대1로 붙는다는 뜻인가?” “요즘 노트북의 NPU처럼 내 PC에 들어가는 칩인가?” 둘 다 정확하지 않다.

퓨리오사AI를 제대로 이해하려면 회사 이름이나 벤치마크 수치보다 먼저 AI 반도체 시장이 어떻게 나뉘어 있는지를 알아야 한다. AI 산업은 거대한 모델을 만들어 내는 학습 경쟁에서, 그 모델을 수백만 번 안정적으로 서비스하는 운영 경쟁으로 무게중심을 넓히고 있다. 퓨리오사AI는 이 변화에서 데이터센터 추론을 겨냥한다. 다시 말해 “모든 AI 계산을 위한 GPU”가 아니라 “이미 학습된 모델이 실제 사용자 요청에 답하는 과정”을 더 효율적으로 처리하려는 반도체 기업이다.

출처: 국산 NPU, 구호에서 실물로…AI반도체 판이 바뀐다

퓨리오사AI가 만드는 것은 ‘서버용 AI 가속기’다

퓨리오사AI는 AI 모델의 추론에 맞춘 NPU(신경망처리장치)를 설계하는 팹리스 기업이다. 팹리스는 칩을 설계하고, 실제 제조는 파운드리 같은 생산 파트너에게 맡기는 구조를 말한다. 워보이와 RNGD는 퓨리오사AI가 공개한 데이터센터 AI 가속기 제품명이다. RNGD는 ‘레니게이드’로 읽으며, 대형언어모델(LLM), 멀티모달 모델, 비전 모델 같은 딥러닝 추론을 대상으로 한다.

제품의 물리적 모습부터 AI PC NPU와 다르다. RNGD는 서버의 PCIe 슬롯에 꽂는 이중 슬롯 가속기 카드 형태다. 공식 개발자 문서는 PCIe Gen5 x16 연결, HBM3 메모리, 가상화와 다중 인스턴스 기능을 안내한다. 즉 개인이 노트북의 부품처럼 사서 끼우는 소비자용 부품이 아니라, 리눅스 서버·클러스터·컨테이너 환경에서 AI 서비스의 처리 용량을 늘리는 인프라 장비에 가깝다. 한 서버에 여러 장을 넣거나 여러 서버로 묶어 모델 서비스의 처리량을 키우는 사용 장면을 상상하면 된다.

여기서 ‘NPU’는 하나의 규격이나 성능 등급이 아니다. 스마트폰의 사진 보정용 NPU도 있고, 노트북의 로컬 AI 보조 기능용 NPU도 있으며, 퓨리오사AI처럼 데이터센터의 대형 모델을 겨냥한 가속기도 있다. 모두 신경망 계산을 효율화한다는 공통점은 있지만, 전력 예산·메모리 용량·냉각·가격·운영 방식이 전혀 다르다. 이름이 같다고 교체 가능한 제품이라는 뜻은 아니다.

출처: FuriosaAI RNGD 개발자 문서, FuriosaAI 소프트웨어 문서

학습과 추론은 같은 AI를 서로 다른 방식으로 쓴다

AI 모델은 먼저 학습된다. 방대한 텍스트·이미지·음성 등의 데이터에서 패턴을 찾고, 예측이 틀릴 때마다 내부 수치인 가중치를 조정한다. 이 과정은 시험 문제를 풀고 오답을 채점한 뒤, 학습법 자체를 고쳐 가는 훈련에 가깝다. 새로운 모델 구조, 학습 기법, 정밀도, 병렬화 방식이 계속 등장하므로 유연성과 개발 도구가 특히 중요하다.

추론은 학습이 끝난 모델을 실제로 사용하는 단계다. 사용자가 “회의록을 세 줄로 요약해 줘”라고 입력하면, 이미 정해진 가중치를 바꾸지 않고 그 입력에 맞는 다음 토큰을 계산해 답을 생성한다. 콜센터 요약, 문서 검색, 번역, 추천, 이미지 판독, AI 에이전트의 도구 선택도 넓게 보면 추론이다. 교과서를 새로 쓰는 일은 학습, 수많은 학생의 질문에 교과서로 답하는 일은 추론이라고 생각하면 쉽다.

중요한 점은 추론이 학습보다 항상 작거나 단순하다는 뜻이 아니라는 것이다. 모델 하나를 처음 학습하는 일은 막대한 자원을 쓸 수 있다. 하지만 서비스가 성공하면 같은 모델이 사용자 요청마다 반복 호출된다. 챗봇이 답을 길게 생성할수록, 문서 검색 후 답하는 RAG 서비스가 늘수록, 음성·이미지까지 함께 다루는 멀티모달 서비스가 늘수록 운영 단계의 누적 비용은 커질 수 있다. 따라서 기업은 “최고 성능의 칩 한 장”뿐 아니라, 한 랙의 전력 한도 안에서 몇 건의 요청을 안정적으로 처리하는지, 냉각·서버·운영 인력까지 포함한 TCO가 어떤지를 본다.

이 변화가 추론용 AI 반도체가 부상하는 이유다. 구글 TPU, 아마존 인퍼런시아, 메타 MTIA, 마이크로소프트 마이아처럼 대형 서비스 사업자도 각자 AI 서비스에 맞춘 가속기를 추진하는 것은 GPU가 쓸모없어져서가 아니라, 워크로드가 충분히 반복적이고 규모가 커졌을 때 전용화의 경제성이 생기기 때문이다.

CPU·GPU·NPU를 ‘사무실’로 비유하면

AI 반도체를 이해할 때 CPU, GPU, NPU를 경쟁 관계 하나로 놓으면 오히려 헷갈린다. 서버 안에서 이들은 역할을 나눠 가진다.

CPU는 소수의 숙련된 범용 직원에 가깝다. 운영체제를 움직이고, 요청을 받아들이고, 데이터베이스·네트워크·입출력을 조율하며, 조건문이 많은 다양한 일을 처리한다. 한 작업의 흐름을 섬세하게 제어하는 데 강하다. 그러나 같은 종류의 단순 계산을 엄청나게 많이 반복하는 일은 효율이 낮을 수 있다.

GPU는 넓은 작업장에 많은 작업자를 배치한 형태다. 원래는 그래픽의 수많은 픽셀을 동시에 계산하려고 발전했지만, 행렬 곱셈처럼 같은 연산을 대규모로 병렬 처리하는 AI 계산과 잘 맞았다. 학습에서는 모델의 가중치를 바꾸기 위해 순전파·역전파·최적화를 반복해야 한다. 연산 형태와 모델이 빠르게 바뀌므로, 다양한 연산을 비교적 유연하게 처리할 수 있는 GPU가 강점을 보여 왔다.

NPU는 특정 조립 공정에 맞춘 전문 생산 라인에 비유할 수 있다. 신경망의 핵심인 텐서·행렬 연산, 데이터 이동, 정밀도 변환을 효율적으로 하도록 설계한다. 범용성은 GPU보다 좁을 수 있지만, 지원하는 모델과 연산에서는 전력·발열·비용 대비 처리량을 높일 여지가 있다. 그래서 NPU의 가치는 “GPU보다 무조건 빠른가”가 아니라, “우리 서비스의 실제 모델·입력 길이·동시 요청 조건에서 같은 서비스 수준을 더 경제적으로 제공하는가”로 판단해야 한다.

실무에서는 CPU가 사라지고 GPU나 NPU만 남는 식이 아니다. 예를 들어 고객이 챗봇에 질문하면 CPU가 인증과 요청 라우팅을 맡고, GPU 또는 NPU가 모델 계산을 수행하며, CPU가 다시 검색 결과·도구 호출·응답 기록을 연결한다. AI 가속기는 서버 전체를 대체하는 부품이 아니라 이 흐름 중 계산이 가장 무거운 구간을 맡는다.

AI 에이전트가 늘수록 ‘한 번의 답변’ 뒤 계산도 늘어난다

AI 에이전트는 사용자의 요청에 한 번 답하고 끝나는 챗봇보다 더 많은 추론을 부를 수 있다. 예를 들어 “이번 분기 매출 하락 원인을 분석해 보고서 초안을 만들어 줘”라는 요청을 받은 에이전트는 문서를 검색하고, 필요한 도구를 선택하고, 데이터베이스 질의를 만들고, 결과를 검토하고, 다시 답변을 다듬을 수 있다. 각 단계가 모델 호출이다.

이때 비용은 단순히 입력 한 번, 출력 한 번으로 끝나지 않는다. 긴 대화 이력과 문서가 입력되면 먼저 읽는 구간의 계산이 커지고, 답변을 토큰 단위로 생성하는 동안에도 가속기가 계속 일한다. 동시에 여러 사용자가 접속하면 요청을 묶어 처리하는 스케줄링, 긴 문맥을 저장하는 메모리 관리, 지연시간의 꼬리를 줄이는 운영 기술이 중요해진다. 그래서 AI 에이전트 시대의 인프라는 모델 정확도만큼 ‘응답 하나당 얼마가 드는가’와 ‘피크 시간에도 약속한 속도를 지키는가’를 따져야 한다.

퓨리오사AI가 말하는 추론 인프라의 기회도 이 지점에 있다. RNGD용 소프트웨어는 대형언어모델 서빙, 모델 병렬화, 구조화된 출력, 도구 호출 같은 서비스 기능을 문서화하고 있다. 이는 AI 에이전트가 무조건 특정 NPU에서 더 잘 작동한다는 보장은 아니다. 다만 에이전트형 서비스의 실제 운영 요구가 ‘모델 실행’에서 ‘서빙·배포·관측·확장’으로 넓어진다는 점을 보여 준다. 출처: FuriosaAI 개발자 문서

AI PC용 NPU와 데이터센터용 NPU는 이름만 같을 뿐이다

Copilot+ PC의 NPU, 애플의 Neural Engine, 퀄컴의 Hexagon, 인텔의 AI Boost처럼 최신 노트북·스마트폰에서 말하는 NPU는 기기 안에서 사진 효과, 음성 처리, 간단한 생성 기능 등을 낮은 전력으로 처리하려는 부품이다. 배터리 시간, 발열, 기기 가격, 개인정보를 외부로 보내지 않는 로컬 처리 경험이 설계의 중심이다. 반면 퓨리오사AI의 RNGD 같은 데이터센터 NPU는 서버실에서 24시간 다수 사용자의 요청을 처리한다. 대용량 메모리, 고속 서버 연결, 가상화, 여러 카드의 배치와 관측이 더 중요하다. 이름은 같은 ‘NPU’지만 목적과 사용 환경은 완전히 다른 제품군이다.

따라서 “퓨리오사AI 칩을 내 PC에 넣으면 ChatGPT가 빨라지나?”라는 질문의 답은 일반적으로 아니다. 사용자는 서비스 제공자가 구축한 데이터센터 인프라를 통해 간접적으로 그 가속기의 혜택을 받을 수 있다. 기업 고객의 관점에서는 서버를 조달하고, 지원 모델을 준비하며, 기존 GPU 기반 서비스 일부를 NPU에 배치해 비용과 성능을 검증하는 선택지다.

워보이에서 레니게이드까지, 지금 확인할 수 있는 범위

워보이와 RNGD는 퓨리오사AI가 공개한 AI 가속기 제품명이다. 제공된 출처만으로 두 제품을 세대 번호로 단정할 근거는 확인되지 않는다. 따라서 제품 평가는 ‘몇 세대인가’보다, 현재 공개된 제품의 목표 워크로드·지원 소프트웨어·운영 환경 검증 범위로 구분해 보는 편이 정확하다.

공식 개발자 문서는 RNGD가 Tensor Contraction Processor(TCP) 아키텍처를 기반으로 딥러닝 추론을 위해 설계됐다고 설명한다. 이 글에서 TCP의 회로 구조까지 들어갈 필요는 없다. 실무적으로는 텐서 연산과 데이터 이동을 함께 최적화하려는 전용 설계이며, 이를 컴파일러와 함께 설계했다는 점이 핵심이다.

제품 상태는 소문이 아니라 구분해서 봐야 한다. 퓨리오사AI는 공식 발표에서 RNGD가 양산 단계에 진입했으며, 서버형 AI 추론 제품으로 공급이 확대되고 있다고 밝혔다. 회사가 지금 주요 목표로 삼는 시장은 엔터프라이즈 AI 추론이다. 이는 공개적으로 확인 가능한 협력·검증 사례이지만, 고객사의 모든 AI 서비스가 RNGD로 전환됐거나 대규모 상용 계약의 규모가 공개됐다는 뜻으로 확대 해석해서는 안 된다. 고객 검증, 공급 계약, 반복 매출은 각각 다른 단계다.

RNGD의 공식 문서에는 PCIe 카드 형태와 가상화 기능이 적혀 있다. 다중 임차 환경에서 하나의 가속기를 논리적으로 나눠 쓸 수 있는 기능은 클라우드·사내 플랫폼 운영에서 의미가 있다. 다만 특정 회사에 맞는 도입 가치는 모델 크기, 동시 접속, 사용 패턴, 서버 구성, 지원 소프트웨어 버전에 따라 달라진다. 제품 사양표의 연산 수치만으로 실제 서비스 비용을 결론내리면 안 되는 이유다.

공개된 국내 적용 맥락도 보자. 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 추진하는 국산 AI 반도체 기반 AI컴퓨팅 인프라 실증 사업에는 통합 운영과 관제, 서비스 적용 환경 구축이 포함된다. 이 사례가 곧 개별 칩의 우열을 입증하는 것은 아니지만, 시장의 질문이 “칩이 존재하는가”에서 “클라우드·운영 도구·고객 서비스 안에서 쓸 수 있는가”로 옮겨가고 있음을 보여 준다. 출처: 메가존클라우드, 국산 NPU AI 인프라 통합 운영 맡는다

CUDA는 칩보다 오래 쌓인 ‘사용 경험’의 장벽이다

엔비디아와 경쟁한다는 말을 이해하려면 CUDA를 빼놓을 수 없다. CUDA는 엔비디아 GPU에서 병렬 계산을 실행하도록 만든 소프트웨어 플랫폼이자, 수많은 AI 프레임워크와 라이브러리, 개발 경험이 오랫동안 축적된 사실상의 산업 표준 생태계다. 개발 프레임워크, 최적화 라이브러리, 예제, 디버깅 도구, 클라우드 이미지, 개발자 경험이 장기간 축적돼 있다. 개발자가 새 모델을 실험하고 문제가 생겼을 때 참고할 자료와 인력이 많다는 점 자체가 강한 진입장벽이다. 비유하자면 익숙하게 쓰던 운영체제를 다른 것으로 통째로 바꾸는 일만큼 쉽지 않은 생태계에 가깝다.

그래서 NPU의 과제는 좋은 칩을 설계하는 데서 끝나지 않는다. PyTorch에서 만든 모델을 가져와 실행 가능한 형태로 바꾸고, 양자화로 메모리와 계산량을 조절하며, 요청을 연속 배치하고, 장애·성능을 관측하고, 쿠버네티스에서 배포하는 흐름 전체를 제공해야 한다. 퓨리오사AI는 자사 스택에서 PyTorch, 컴파일러, 모델 압축, Furiosa-LLM, vLLM 호환 인터페이스, OpenAI 호환 서버, 쿠버네티스 연계를 제공한다고 설명한다. 지원 모델 목록과 버전은 계속 변하므로, 도입 시에는 후보 모델이 실제 지원 목록에 있는지와 필요한 기능이 해당 SDK 버전에 있는지를 먼저 확인해야 한다.

‘AI 에이전트가 CUDA 장벽을 낮춘다’는 최근의 논의도 같은 맥락에서 읽어야 한다. 에이전트나 코드 변환 도구가 모델 포팅의 반복 작업을 줄일 가능성은 있다. 그러나 자동 변환이 정확도 저하, 사용자 정의 연산, 성능 조정, 장애 분석, 보안 검증까지 없애 주지는 않는다. CUDA의 완전한 대체를 단정하기보다, 상위 수준의 프레임워크와 호환 API가 넓어질수록 특정 워크로드에서 이식 비용을 낮출 수 있다고 보는 편이 정확하다. 퓨리오사AI 역시 CUDA 생태계 자체를 대체하겠다고 내세우기보다, AI 에이전트와 소프트웨어 도구를 활용해 모델 포팅 부담을 줄이고 기존 프레임워크와의 호환성을 높이는 방향의 전략을 추진하고 있다. 출처: “AI에이전트가 쿠다 진입장벽 낮춰”···국산 NPU 퓨리오사, 엔비디아 아성 흔들까

기업이 NPU 도입을 검토할 때 보는 네 가지 장면

추론용 NPU는 “GPU를 전부 바꾸자”는 프로젝트보다, 반복적이고 측정 가능한 서비스부터 검증하는 접근이 현실적이다.

사내 문서 질의응답(RAG)

상황은 임직원이 규정·매뉴얼·계약서에 질문하는 서비스다. 입력은 사용자 질문과 검색된 문서 조각이며, 실행 흐름은 검색-프롬프트 구성-LLM 생성-출처 제시다. 출력은 근거가 붙은 답변이다. 이 워크로드는 같은 모델과 비슷한 요청이 반복되는 경우가 많아 NPU 검증 후보가 될 수 있다. 다만 문서 길이, 동시 사용자 수, 답변 정확도와 환각률, 첫 토큰 지연시간과 전체 응답시간을 같이 봐야 한다. 토큰 처리량만 높고 사용자가 답을 늦게 받는다면 서비스 품질은 좋아졌다고 보기 어렵다.

고객 상담 요약과 답변 보조

입력은 통화 전사나 상담 이력이고, 모델은 요약·분류·답변 초안을 생성한다. 출력은 상담사가 검토할 수 있는 구조화된 요약과 제안이다. 이 경우 비용 절감만큼 개인정보 보호, 접근 제어, 기록 보존, 사람이 최종 승인하는 절차가 중요하다. 모델이 지원되는지뿐 아니라 기존 상담 시스템의 API 형식과 호환되는지, 피크 시간에 큐가 길어지지 않는지 확인해야 한다.

전자상거래·미디어의 대량 생성 API

상품 설명 정리, 후기 요약, 콘텐츠 태깅, 번역처럼 요청 수가 많고 형식이 반복되는 서비스는 추론 비용을 정량화하기 좋다. 입력·출력 길이 분포와 동시성을 측정해 GPU와 NPU에서 동일한 품질 기준으로 비교할 수 있다. 주의점은 짧은 문장 중심의 내부 시험 결과를 긴 문맥·도구 호출·피크 트래픽을 포함한 실제 트래픽에 그대로 일반화하지 않는 것이다.

AI 에이전트의 내부 도구 호출

입력은 사용자의 업무 요청과 대화 상태, 도구 결과다. 실행은 계획 수립-도구 호출-결과 검토-최종 응답을 여러 번 반복할 수 있다. 출력은 보고서, 티켓 처리 결과, 데이터 조회 결과처럼 업무 시스템에 연결된 산출물이다. 이 경우 모델 서빙 서버가 구조화된 출력과 도구 호출을 어떻게 지원하는지, 요청 간 상태와 실패 재시도를 어떻게 다루는지가 중요하다. 단순 질의응답보다 호출 횟수와 문맥 길이가 늘 수 있으므로, 요청당 비용을 ‘대화 한 턴’이 아니라 ‘업무 완료 한 건’ 단위로 계산하는 편이 낫다.

도입 의사결정은 다음 순서가 안전하다. 먼저 서비스별 실제 트래픽을 익명화해 입력 길이·출력 길이·동시성·정확도 기준을 정한다. 다음으로 지원 모델과 양자화 후 품질을 확인한다. 그 뒤 동일한 서비스 수준 목표에서 GPU와 NPU의 응답시간, 실패율, 전력, 서버 수, 라이선스·운영 비용을 비교한다. 마지막으로 일부 트래픽만 옮긴 상태에서 관측·롤백·장애 대응을 검증한다. 특정 가속기가 좋아 보인다는 기사만으로 전체 인프라를 일괄 전환하는 것은 피해야 한다.

엔비디아 GPU와 퓨리오사AI가 공략하는 시장은 겹치지만 같지 않다

엔비디아 GPU는 AI 학습과 추론 양쪽에서 폭넓게 쓰이며, 풍부한 CUDA 생태계와 하드웨어·네트워킹·소프트웨어 제품군을 갖춘다. 퓨리오사AI 같은 NPU 기업은 이 전체 영역을 한 번에 복제하기보다, 모델이 정해진 뒤 대량으로 서비스되는 추론 구간에서 경제성을 제안한다. 두 시장은 추론이라는 접점에서 경쟁하지만, 고객의 선택은 이분법이 아닐 수 있다.

따라서 ‘엔비디아를 이길 수 있나’는 질문은 너무 크고 정보가 적다. 더 유용한 질문은 “우리의 특정 모델과 서비스 수준에서 NPU가 GPU 대비 비용·전력·지연시간·운영 복잡도를 개선하는가”다. NPU가 유리한 업무가 생겨도 GPU 생태계가 사라지는 것은 아니며, 반대로 GPU가 강하다고 전용 가속기의 기회가 없는 것도 아니다. AI 인프라가 커질수록 학습, 실험, 범용 추론, 고정된 대량 추론을 서로 다른 장비가 나눠 맡는 이종 인프라가 늘어날 수 있다.

국산 AI 반도체의 의미는 ‘대체’보다 선택지와 공급망에 있다

국산 AI 반도체를 평가할 때 “국산이므로 써야 한다”는 접근은 실무 판단에 충분하지 않다. AI 서비스는 칩만으로 만들어지지 않는다. 제조, 메모리, 서버, 네트워크, 클라우드, 운영 소프트웨어, 모델 생태계가 함께 돌아가야 한다. 글로벌 시장에서 엔비디아의 영향력과 CUDA 중심 개발 관행은 여전히 매우 크다. 이를 무시한 자립 담론은 고객의 실제 전환 비용을 가린다.

그럼에도 국내 설계사와 클라우드·수요 기업이 함께 실증하는 가치는 분명하다. 특정 공급자에 대한 의존도를 줄일 선택지를 만들고, 국내 서비스 환경에서 호환성·운영 방식·조달 조건을 검증하며, 요구사항을 칩과 소프트웨어 로드맵에 빠르게 반영할 경로를 만들 수 있다. 이것은 곧바로 수입 제품을 배제한다는 뜻이 아니라, 공급망과 기술 선택의 폭을 넓히는 일이다.

퓨리오사AI가 앞으로 풀어야 할 과제도 여기에 있다. 첫째, 지원 모델과 정밀도·긴 문맥·멀티모달 기능을 꾸준히 넓혀야 한다. 둘째, 모델 포팅과 성능 조정에 드는 시간을 줄여야 한다. 셋째, 기업이 원하는 관측·보안·가상화·쿠버네티스 운영을 안정적으로 제공해야 한다. 넷째, 공개 검증을 실제 반복 공급과 고객 성공 사례로 연결해야 한다. 좋은 칩의 출발은 설계지만, 인프라 사업의 완성은 배포·운영·지원이다.

결론: 승패가 아니라 AI 서비스 비용 구조의 변화다

퓨리오사AI는 GPU를 그대로 복제하는 회사라기보다, 데이터센터에서 AI 추론을 더 효율적으로 운영하려는 NPU 설계·소프트웨어 기업으로 이해하는 편이 맞다. 레니게이드는 개인 PC용 NPU가 아니라 PCIe 카드 형태로 서버에 장착되는 데이터센터용 가속기다. 공개 발표 기준으로 양산과 일부 운영 환경 검증 단계에 있으며, 이후의 시장 평가는 실제 고객의 서비스 품질과 TCO 개선으로 결정될 것이다.

독자가 기억할 핵심은 한 회사의 승패 예측이 아니다. AI 시장이 모델을 학습시키는 경쟁에서, AI 서비스를 얼마나 낮은 비용·전력·지연시간으로 제공하는가의 경쟁으로 확장되고 있다는 사실이다. 이 변화는 GPU의 중요성을 없애기보다, 추론 특화 NPU와 ASIC, 자체 가속기가 공존할 여지를 넓힌다. 퓨리오사AI는 그 공존 구조에서 ‘추론 인프라’라는 명확한 자리를 공략하는 사례다.

자주 묻는 질문

퓨리오사AI는 GPU를 만드는 회사인가?

아니다. 퓨리오사AI는 딥러닝 추론을 목표로 한 NPU·AI 가속기를 설계한다. GPU와 마찬가지로 AI 계산을 가속하지만, 범용 GPU를 그대로 만드는 사업과는 설계 목표와 소프트웨어 접근이 다르다. 출처: FuriosaAI RNGD 개발자 문서

퓨리오사AI 반도체를 개인이 구매해 PC에 넣을 수 있나?

RNGD는 데이터센터 서버용 PCIe 가속기다. 일반 소비자용 노트북 NPU와 같은 제품군으로 보면 안 된다. 기업·클라우드 사업자가 서버 인프라에서 도입을 검토하는 장비에 가깝다.

RTX 그래픽카드처럼 내 PC에 꽂아 쓰는 제품인가?

아니다. RTX 그래픽카드는 개인용 PC나 워크스테이션에 장착하는 소비자·전문가용 제품이지만, RNGD는 서버 랙에 들어가는 데이터센터용 가속기 카드다. 물리적으로 PCIe 슬롯에 꽂는 형태는 비슷해도, 구매·설치·운영 주체와 목적이 전혀 다르다.

AI PC의 NPU와 퓨리오사AI NPU는 무엇이 다른가?

둘 다 신경망 연산을 가속한다는 공통점은 있지만, AI PC NPU는 배터리·발열·기기 내 로컬 작업에, 데이터센터 NPU는 대규모 요청 처리·메모리·가상화·서버 운영에 맞춘다. 용도와 설치 환경이 다르므로 성능 수치를 직접 비교하기 어렵다.

왜 추론용 AI 반도체 시장이 커지고 있나?

생성형 AI와 AI 에이전트가 서비스로 확산되면 사용자 요청마다 모델 추론이 반복된다. 기업은 모델 정확도뿐 아니라 요청당 비용, 전력, 응답 속도, 동시 처리 능력을 관리해야 한다. 워크로드가 안정될수록 전용 가속기로 최적화할 동기가 커질 수 있다.

국산 AI 반도체가 엔비디아를 완전히 대체할 수 있나?

단정할 수 없다. 엔비디아는 하드웨어뿐 아니라 CUDA와 폭넓은 개발 생태계에서 강한 기반을 갖고 있다. 현실적인 관점은 전체 대체보다, 특정 추론 서비스에서 검증을 거쳐 GPU와 NPU를 혼용하고 공급망 선택지를 넓히는 것이다.

참고 출처

• FuriosaAI 공식 홈페이지
• FuriosaAI RNGD 개발자 문서
• FuriosaAI 소프트웨어 문서(Developer Center)
• 퓨리오사AI의 RNGD 양산·검증 발표
• FuriosaAI Newsroom
• 국산 NPU, 구호에서 실물로…AI반도체 판이 바뀐다
• “AI에이전트가 쿠다 진입장벽 낮춰”···국산 NPU 퓨리오사, 엔비디아 아성 흔들까
• 메가존클라우드, 국산 NPU AI 인프라 통합 운영 맡는다