Аннотация:Одной из важнейших информационных характеристик последовательностей случайных величин служит энтропия. Известны оценки энтропии последовательности независимых одинаково распределенных случайных величин, а также стационарных марковских последовательной полученные непосредственной заменой вероятностей отдельных исходов соответствующими частотами.