생성형 AI 가속 플랫폼 기업 프렌들리AI는 3월 17일부터 21일까지 미국 산호세에서 열린 ‘엔비디아 GTC 2025’ 참가를 성공적으로 마쳤다고 26일 밝혔다.
특히 젠슨 황 엔비디아 CEO가 기조연설에서 “AI 추론과 AI 에이전트 시대가 시작됐다”고 천명하면서, 관련 기술이 핵심 강점인 프렌들리AI가 현장에서 크게 주목받았다.
작년에 이어 2년 연속 GTC에 참가한 프렌들리AI는 생성형 AI 서비스의 추론 성능을 극대화하는 플랫폼을 선보여 많은 기업의 경영진과 개발 책임자들로부터 큰 관심을 받았다.
GTC 기간 동안 프렌들리AI 부스를 방문한 기업만 300여곳에 달했고, 정식 도입을 문의하는 요청도 잇따랐다.
기업 관계자들은 프렌들리AI가 검증한 업계 최고 수준의 추론 가속화 성능, 그리고 세계 최대 AI 모델 공유 플랫폼인 허깅페이스와의 공식 파트너십을 통한 사용성과 신뢰성에 깊은 관심을 보였다.
프렌들리AI는 추론 속도 부문 세계 1위(Artificial Analysis 벤치마크) GPU API 제공사이며, 스타트업으로는 세계에서 유일하게 선정된 허깅페이스의 공식 모델 배포 파트너다.
젠슨 황 CEO가 18일 기조연설에서 30분이나 되는 시간을 ‘초대규모AI 추론(inference) 기술의 중요성과 AI 에이전트 도입의 확산’에 대해 말하면서, 관련 플랫폼 기술을 제공하는 프렌들리AI의 부스에 기업 관계자들의 발길이 쏠리기도 했다.
프렌들리AI는 전세계 최고 수준의 추론 가속을 제공하며, AI 에이전트 서비스도 출시할 예정이다.
기업 입장에서는 프렌들리AI 기술을 도입하면 AI 서비스 및 추론 속도가 빨라지고, 안정적으로 운영되고, 비용 절감 및 운영 효율성 증가 효과까지 얻을 수 있다.
프렌들리AI가 허깅페이스 파트너십 이후로 기업들이 믿고 쓰는 플랫폼으로 자리 잡은 데다가, AI 최적화에 관심이 높아지면서 글로벌 AI 기업들이 GTC에서 프렌들리AI에 큰 관심을 보였다.
전 세계 수천만명 이상의 유저에게 AI 챗봇, 음성 AI 에이전트 (Voice AI Agent), AI 콜센터(AICC) 등의 서비스를 제공하는 기업들이 특히 프렌들리AI에게 실제 도입 절차를 문의하는 경우가 많았다.
AI의 고객 응대 속도, 실시간 대화 품질, 인프라 비용 절감 등에 고민이 많은 관련 기업들이 이를 해결하는 솔루션을 제공하는 프렌들리AI에 주목했다.
이런 기업 입장에서는 뛰어난 사용성을 위해 응답 시간을 최소화하고 꾸준한 성능을 제공하는 것이 중요한데, 프렌들리AI는 이 분야에서 독보적인 기술력을 자랑한다.
프렌들리AI 관계자는 “한 기업 CTO는 ‘바로 내가 찾던 솔루션이었다’면서 곧바로 도입 의사를 밝히더라”며 “AI 서비스를 만드는 기업이라면 예외없이 가속화·최적화에 어려움을 겪고 있다는 사실을 새삼 확인했고, 이 시장이 하루가 다르게 폭발적으로 커지고 있다는 사실 역시 글로벌 현장에서 체감할 수 있었다”고 전했다.
세계적인 엔터프라이즈 기업들도 프렌들리AI가 글로벌 파트너십으로 신뢰받고 있으며, 규모 있는 기업에서도 간편하게 도입할 수 있다는 점에 귀를 기울였다.
프렌들리AI는 최근 아마존웹서비스(AWS) 환경에 애드온으로 탑재되었으며, 스타트업으로는 세계에서 유일하게 허깅페이스의 공식 모델 배포 파트너이다.
현재 허깅페이스에서 13만개가 넘는 모델들을 바로 프렌들리AI로 배포해서 사용할 수 있다.
전병곤 프렌들리AI 대표는 “AI 시장의 무게가 AI 추론으로 이동하고 있고, AI 생태계가 커지는 만큼 AI 서비스를 뒷받침하는 플랫폼 기술의 시장도 어마어마한 속도로 커지고 있다는 사실을 GTC에서 다시금 확인할 수 있었다”면서 “글로벌 현장에서 직접 확인한 내용을 바탕으로, 기업들이 AI로 더 크게 도약하도록 최선을 다해 지원할 생각”이라고 말했다.
정진 기자 peng1@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
