AI 스타트업 셀렉트스타는 5일(현지 시각) 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 ‘MWC(모바일 월드 콩그레스)25’에서 ‘글로벌 AI 레드팀 챌린지’를 마쳤다고 7일 밝혔다. 이 대회는 다양한 국적의 참가자들이 AI 모델의 보안과 안정성을 테스트하며 치열한 경쟁을 펼친 행사로, 세계 최초의 ‘글로벌 AI 레드팀 챌린지’에 대한 높은 관심을 확인할 수 있었다.
이번 대회는 AI 모델의 보안 및 생성형 AI 서비스 신뢰성 검증의 중요성을 글로벌 시장에 알리기 위해 마련됐다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼에 연결된 대규모언어모델(LLM)을 대상으로 프롬프트 공격을 수행하고, 유해하거나 차별적인 결과 및 시스템 오용 가능성을 찾아냈다.
셀렉트스타는 GSMA(세계이동통신사업자연합회)와 협력하여 레드팀 챌린지를 공동 주최하고, 레드팀 플랫폼 운영 및 문제 출제, 응답 검수 등의 핵심 역할을 담당했다. 대회에는 335명이 사전 신청했으며, 현장에서는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국가의 100여 명이 참가했다.
이번 대회에서는 LG유플러스의 엑사원 기반 소형 언어모델 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 다양한 국가의 LLM이 출제 모델로 활용되어 주목을 받았다. 최종 우승자는 생성형 AI의 오류를 가장 많이 찾아낸 싱가포르의 투자 전문가 투 무젠 토미시가 차지했다. 셀렉트스타는 이번 대회를 통해 GSMA, 후원사 e&와 함께 내년 MWC에서 더 큰 규모의 레드팀 챌린지를 진행하기로 합의했다.
또한 셀렉트스타는 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 처음 공개했다. 이 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석하고 검증할 수 있다.
황민영 셀렉트스타 부대표는 “이번 ‘MWC25’에서 최초로 글로벌 레드팀 챌린지를 개최하고, ‘다투모 이밸’ 솔루션을 선보이게 되어 AI 모델 신뢰성 검증이 업계에서 중요한 과제로 자리잡았음을 실감했다”며 “기술 우수성과 시장 경쟁력을 입증했으므로, 솔루션 고도화와 글로벌 시장 확장에 더욱 힘쓸 것”이라고 밝혔다.
- 관련 기사 더보기
SelectStar Ends 'Global AI Red Team Challenge' at MWC25
AI startup SelectStar announced on the 7th that it had completed the 'Global AI Red Team Challenge' at the 'MWC (Mobile World Congress) 25' held at the Fira Gran Via exhibition center in Barcelona, Spain on the 5th (local time). This competition was an event where participants of various nationalities competed fiercely while testing the security and stability of AI models, and confirmed the high interest in the world's first 'Global AI Red Team Challenge'.
This competition was designed to inform the global market of the importance of AI model security and generative AI service reliability verification. Participants performed prompt attacks on the large-scale language model (LLM) connected to the red team platform built by SelectStar, and found harmful or discriminatory results and potential system misuse.
SelectStar co-hosted the Red Team Challenge in cooperation with the GSMA (Global System for Mobile Communications Association), and played a key role in operating the Red Team platform, creating problems, and reviewing responses. 335 people pre-registered for the competition, and about 100 people from various countries including China, Japan, Singapore, Qatar, Turkey, the United States, the United Kingdom, Spain, Germany, and Switzerland participated on-site.
This competition attracted attention by using LLMs from various countries as test models, including LG Uplus' ExaOne-based small language model Exigen, United Arab Emirates' TelecomGPT, and Malaysia's AIngineer. The final winner was Singapore's investment expert Tu Mugen Tomish, who found the most errors in generative AI. Through this competition, SelectStar agreed with GSMA and sponsor e& to hold a larger Red Team Challenge at MWC next year.
In addition, SelectStar has unveiled for the first time its self-developed generative AI reliability verification automation solution, 'DATUMO Eval'. This solution can automatically analyze and verify the reliability of generative AI services.
Hwang Min-young, Vice President of Selectstar, said, “Holding the Global Red Team Challenge for the first time at ‘MWC25’ and introducing the ‘Datumo Ebal’ solution, we realized that AI model reliability verification has become an important task in the industry,” and “Now that we have proven our technological excellence and market competitiveness, we will work even harder to advance our solutions and expand into the global market.”
- See more related articles
セレクトスター、MWC25で「グローバルAIレッドチームチャレンジ」終了
AIスタートアップセレクトスターは5日(現地時刻)スペインバルセロナピラグランビア展示場で開かれた'MWC(モバイルワールドコングレス)25'で'グローバルAIレッドチームチャレンジ'を終えたと7日明らかにした。この大会は様々な国籍の参加者がAIモデルのセキュリティと安定性をテストして激しい競争を繰り広げたイベントで、世界初の「グローバルAIレッドチームチャレンジ」に対する高い関心を確認することができた。
今回の大会は、AIモデルのセキュリティおよび生成型AIサービス信頼性検証の重要性をグローバル市場に知らせるために設けられた。参加者はセレクトスターが構築したレッドチームプラットフォームに接続された大規模言語モデル（LLM）を対象にプロンプト攻撃を行い、有害または差別的な結果およびシステム誤用の可能性を見つけた。
セレクトスターはGSMA（世界移動通信事業者連合会）と協力してレッドチームチャレンジを共同主催し、レッドチームプラットフォームの運営や問題出題、応答検収などの重要な役割を担った。大会には335人が事前申し込み、現場では中国、日本、シンガポール、カタール、チュルキエ、アメリカ、イギリス、スペイン、ドイツ、スイスなど様々な国の100人余りが参加した。
今大会ではLGユープラスのエクサウォンベースの小型言語モデルイクシゼン、アラブ首長国連邦のTelecomGPT、マレーシアのAIngineerなど様々な国のLLMが出題モデルとして活用され注目を集めた。最終優勝者は生成型AIのエラーを最も多く見つけたシンガポールの投資専門家トゥムゼントミシが占めた。セレクトスターは今回の大会を通じてGSMA、スポンサーe&と共に来年MWCでより大きな規模のレッドチームチャレンジを進行することに合意した。
また、セレクトスターは自社開発した生成型AI信頼性検証自動化ソリューション「DATUMO Eval」を初公開した。このソリューションは、生成されたAIサービスの信頼性を自動的に分析して検証できます。
ファン・ミンヨンセレクトスター副代表は「今回の「MWC25」で初めてグローバルレッドチームチャレンジを開催し、「多投モイバル」ソリューションを披露することになり、AIモデルの信頼性検証が業界で重要な課題となったことを実感した」とし「技術優秀性と市場競争力を立証した。
- 関連記事をもっと見る
SelectStar 在 MWC25 上结束“全球 AI 红队挑战赛”
AI初创企业SelectStar 7日宣布，在5日(当地时间)于西班牙巴塞罗那Fira Gran Via展览中心举办的“MWC(第25届世界移动通信大会)”上完成了“全球AI红队挑战赛”。本次比赛竞争十分激烈，来自不同国家的参赛者考验了人工智能模型的安全性和稳定性，证明了人们对全球首届“全球人工智能红队挑战赛”的高度关注。
此次竞赛旨在让全球市场认识到验证人工智能模型的安全性和生成式人工智能服务的可靠性的重要性。参与者对连接到 SelectStar 构建的红队平台的大规模语言模型 (LLM) 进行了即时攻击，寻找有害或歧视性的结果以及潜在的系统滥用。
SelectStar 与 GSMA（全球移动通信系统协会）联合主办了红队挑战赛，并在运营红队平台、提出问题和审查答复方面发挥了关键作用。比赛预先报名人数达335人，来自中国、日本、新加坡、卡塔尔、土耳其、美国、英国、西班牙、德国、瑞士等多个国家的约100人现场参赛。
本次大赛以LG Uplus基于ExaOne的小型语言模型Ixigen、阿联酋的TelecomGPT、马来西亚的AIngineer等各国的LLM作为考试模型，引发关注。最终的获胜者是新加坡投资专家To Mujen Tomishi，他发现了生成式人工智能中最多的错误。通过本次比赛，SelectStar已与GSMA及赞助商e&C达成一致，将于明年在MWC上举办更大规模的红队挑战赛。
此外，SelectStar首次公开其自主开发的生成式AI可靠性验证自动化解决方案“DATUMO Eval”。该解决方案可以自动分析和验证生成式AI服务的可靠性。
Selectstar副总裁黄敏英表示，“在‘MWC25’上首次举办Global Red Team Challenge，并推出‘Datumo Ebal’解决方案后，我们意识到AI模型的可靠性验证已成为业界的重要课题”，“现在我们已经证明了自己的技术优势和市场竞争力，将更加努力地推进解决方案，拓展全球市场。”
- 查看更多相关文章
SelectStar termine le « Global AI Red Team Challenge » au MWC25
La startup d'IA SelectStar a annoncé le 7 avoir terminé le « Global AI Red Team Challenge » au « MWC (Mobile World Congress) 25 » qui s'est tenu au parc des expositions Fira Gran Via à Barcelone, en Espagne, le 5 (heure locale). Cette compétition a été un événement extrêmement compétitif où les participants de différentes nationalités ont testé la sécurité et la stabilité des modèles d'IA, confirmant le grand intérêt suscité par le premier « Global AI Red Team Challenge » au monde.
Ce concours a été conçu pour informer le marché mondial de l’importance de vérifier la sécurité des modèles d’IA et la fiabilité des services d’IA génératifs. Les participants ont effectué des attaques rapides contre un modèle linguistique à grande échelle (LLM) connecté à une plateforme d'équipe rouge construite par SelectStar, à la recherche de résultats nuisibles ou discriminatoires et d'abus potentiels du système.
SelectStar a co-organisé le Red Team Challenge en collaboration avec la GSMA (Global System for Mobile Communications Association) et a joué un rôle clé dans l'exploitation de la plateforme Red Team, en posant des questions et en examinant les réponses. 335 personnes se sont préinscrites au concours et environ 100 personnes de différents pays, dont la Chine, le Japon, Singapour, le Qatar, la Turquie, les États-Unis, le Royaume-Uni, l’Espagne, l’Allemagne et la Suisse, ont participé sur place.
Dans ce concours, des LLM de différents pays, dont le petit modèle linguistique Ixigen basé sur ExaOne de LG Uplus, TelecomGPT des Émirats arabes unis et AIngineer de Malaisie, ont été utilisés comme modèles d'examen et ont attiré l'attention. Le grand gagnant est To Mujen Tomishi, expert en investissement basé à Singapour, qui a trouvé le plus d’erreurs dans l’IA générative. Grâce à ce concours, SelectStar a convenu avec la GSMA et le sponsor e& d'organiser un Red Team Challenge plus important au MWC l'année prochaine.
En outre, SelectStar a dévoilé pour la première fois sa solution d'automatisation de vérification de fiabilité par IA générative développée en interne, « DATUMO Eval ». Cette solution peut analyser et vérifier automatiquement la fiabilité des services d’IA génératifs.
Hwang Min-young, vice-président de Selectstar, a déclaré : « En organisant le Global Red Team Challenge pour la première fois au MWC25 et en présentant la solution Datumo Ebal, nous avons réalisé que la vérification de la fiabilité des modèles d'IA est devenue une tâche importante dans l'industrie », et « Maintenant que nous avons prouvé notre excellence technologique et notre compétitivité sur le marché, nous allons travailler encore plus dur pour faire progresser nos solutions et nous développer sur le marché mondial. »
- Voir plus d'articles connexes
You must be logged in to post a comment.