자동화편향이란무엇입니까?
자동화편향(自动化偏差)은자동보조도구나의사결정지원시스템에지나치게의존하는것을말합니다。자동의사결정보조도구가널리보급되면서중환자실이나항공기조종석과같이중대한의사결정을내려야하는상황에서이런도구를이용하는사례가점점흔해지고있습니다。사람은인지적인노력이가장적게필요한길을택하여“자동화편향”으로기우는경향이있습니다。같은개념을ai와자동화가작동하는근본적방식에도적용할수있습니다。Ai와자동화는주로대량의데이터세트로부터배운내용을기반으로작동합니다。이런유형의연산에서는매사가앞으로급격하게달라지지않을것이라고가정합니다。또한가지고려해야할측면은결함이있는교육데이터를사용하는데뒤따르는위험성입니다。이경우학습도잘못되기때문입니다。
기계편향이란무엇입니까?
기계편향(机器偏差)은알고리즘이사용된알고리즘이나입력데이터의편향을나타내는방식과관련이있습니다。오늘날인공지능(AI)은데이터로부터새로운인사이트를알아내고,사람의의사결정과정을보강하도록돕는역할을합니다。얼굴식기능을이용해스마트폰에로그하는것이대적예입니다。의도하지않은편향(意想不到的偏见)은여러가지원인에서기인할수있지만(위키피디아에는184가지가기재되어있음)가장주된동인을세가지만들자면다음과같습니다。
- 불완전한데이터샘플
- 잘못된数据集
- 오랜시간에걸친상호작용을통해발생하는잘못된학습,일명상호작용편향(交互偏见)
데이터편향을방지하려면종합적이고폭넓은数据集를사용해야합니다。가능한모든에지사용사례를반하는것이좋습니다。数据集가종합적일수록AI가더정확한예측을할수있게됩니다。Ai작업을할때고려해야할몇가지점을알아봅시다。문제에적합한학습모델을선택합니다。편향을완전히피하기위해따르면되는딱한가지모델은아마없겠지만,빌드중에팀원들에게정보를제공할수있는매개변수는몇가지있습니다。주어진상황에가장적합한모델을알아내고여러가지문제해결아이디어를마련해두어야합니다。대적교육데이터세트를선택합니다。다양한교육데이터를사용해야합니다。여러그룹을포함한데이터여야한다는점을명심합니다。실제데이터를사용해성능을모니터링합니다。알고리즘을빌드할때는최대한실제애플리케이션을시뮬레이션해야합니다。