영상에서 인터페이스 설계는 사람이 하고 내부 구현은 AI가 하는 그레이박스 전략이 소개되었는데 AI가 잘못된 정보를 사실처럼 말하는
할루시네이션과 같은 현상들이 나타나도 내부 구현을 사람이 하지 않기 때문에 오류를 못 잡을 확률도 있을 것이라고 생각합니다. 또한 영상에서
이에 대한 해답으로 선택적 검증과 테스트를 통한 시스템적 방어라는 내놓았는데 이러한 선택적 검증과 테스트들은 완벽하지 않을 수 있고
구멍들이 생길 수 도 있다고 저는 생각합니다. 그렇다면 이런 문제들을 해결하기 위해선 사람들의 내부 구현 검증 절차가 포함되어야 문제를 꼭
해결할 수 있는건가요? 다른 방안들을 생각해보았지만 다른 방법이 떠오르지 않았는데 교수님께선 어떠한 해결책이 최선이라고 생각하시나요?
영상에서 인터페이스 설계는 사람이 하고 내부 구현은 AI가 하는 그레이박스 전략이 소개되었는데 AI가 잘못된 정보를 사실처럼 말하는
할루시네이션과 같은 현상들이 나타나도 내부 구현을 사람이 하지 않기 때문에 오류를 못 잡을 확률도 있을 것이라고 생각합니다. 또한 영상에서
이에 대한 해답으로 선택적 검증과 테스트를 통한 시스템적 방어라는 내놓았는데 이러한 선택적 검증과 테스트들은 완벽하지 않을 수 있고
구멍들이 생길 수 도 있다고 저는 생각합니다. 그렇다면 이런 문제들을 해결하기 위해선 사람들의 내부 구현 검증 절차가 포함되어야 문제를 꼭
해결할 수 있는건가요? 다른 방안들을 생각해보았지만 다른 방법이 떠오르지 않았는데 교수님께선 어떠한 해결책이 최선이라고 생각하시나요?