[알파경제=(시카고) 김지선 특파원] IBM이 새로운 AI 소프트웨어를 공개했다.
IBM은 14일(현지시간) 대형 언어 모델의 잘못된 행동을 방지하기 위해 고안된 새로운 인공지능 소프트웨어 '왓슨X.거버넌스'를 공개했다.
왓슨X.거버넌스는 12월 5일부터 일반적으로 사용 가능하다.
IBM은 "왓슨X.거버넌스가 기업들이 AI 모델에 빛을 비추고 데이터로부터 답을 얻는 데 도움을 줄 것"이라고 말했다.
왓슨X.거버넌스는 고객이 위험을 관리하고 제공업체의 투명성을 확보해 미래의 인공지능 중심 규제에 대한 준수를 예측할 수 있도록 돕기 위한 것이다.
IBM는 새로운 소프트웨어가 명령에서 제기된 우려 사항 중 일부를 해결하는 데 도움이 될 거라 생각한다.
IBM 수석 부사장 카림 유수프는 "회사 이사회와 최고경영진들은 오늘날 더 강력한 인공지능 모델에서 보상을 얻고자 하지만, 투명성 부족과 이러한 모델을 통제할 수 없는 위험이 그들을 막고 있다"고 말했다.
유사프는 새로운 소프트웨어가 "AI 거버넌스 프로세스를 자동화하고 모델을 모니터링하며 시정 조치를 취할 수 있는 비즈니스 도구를 제공한다"고 말했다.
또한 그는 "새로운 AI 규제가 전 세계적으로 시행됨에 따라 규제를 시행 가능한 정책으로 변환하는 소프트웨어의 능력은 더욱 필수적이 될 것"이라고 덧붙였다.
IBM은 올해 초 왓슨X AI 소프트웨어 플랫폼을 공개하고 고객을 위한 생성형 AI 애플리케이션 시장에 뛰어들었다.
회사는 당시 이 제품군이 모델들이 결과를 만들거나 공격하는 것을 방지하기 위한 거버넌스 도구를 포함할 것이라고 발표한 바 있다.
한편, 왓슨X.거버넌스는 초기에 IBM의 자체 LLM뿐만 아니라 AI 스타트업 허깅 페이스가 관리하는 저장소에 있는 LLM 및 메타의 라마 2 모델에서 작동한다.
IBM은 내년 초에 다른 모델과의 연결을 추가할 예정이다.