ИСТИНА

Основной проблемой при обучении искусственных агентов нормам морали является сложность формализации морали в доступную для обработки компьютерными программами форму, а также тот факт, что не все люди являются носителями и разделяют одинаковые нормы морали, что не позволяет создать единую модель морали. При решении моральных дилемм люди склонны опираться на инстинкты, а не на точные вычисления. А искусственные агенты и программы нуждаются в эксплицитных и объективных метриках, ясно измеримых и оптимизированных. Эти факты вызывают беспокойство ученых, поскольку простое предоставление реальных данных по поведению людей для машинного обучения ИИ может привести к усилению структурной дискриминации путем воспроизведения стереотипов, предрассудков, заложенных в исходных данных. Учитывая современные знания о машинном обучении, следует предложить новые средства для разработки этической программы для ИИ.