AI 윤리와 보안 트레일
AI 모델이 가질 수 있는 편향성의 유형과 원인을 이해합니다. 업무에서 AI를 활용할 때 편향된 결과를 식별하고 보정하는 방법을 배워, 공정한 의사결정에 AI를 활용하는 역량을 키웁니다.
학습 데이터 편향, 선택 편향, 확증 편향 등 AI가 가질 수 있는 다양한 편향 유형이 존재하며, 이는 채용, 대출 심사, 고객 분석 등에서 불공정한 결과를 초래할 수 있습니다.
AI 결과물에서 특정 성별, 연령, 지역에 대한 불균형이 나타나는지 점검하고, 다양한 입력 조건으로 결과를 비교하면 편향을 발견할 수 있습니다.
AI에게 '다양한 관점을 포함하라', '특정 그룹에 편향되지 않도록 주의하라'는 지시를 추가하면, 보다 균형 잡힌 결과를 얻을 수 있습니다.
H Chat에 '자동차 구매 고객 프로필을 작성해줘'라고 요청한 뒤, 결과에 성별이나 연령 편향이 있는지 확인해보세요. 편향이 발견되면 보정 지시를 추가하여 다시 요청해보세요.
Q1.AI 편향성이 발생하는 가장 흔한 원인은?
Q2.AI 결과의 편향을 줄이기 위한 방법은?