Проверка орфографии
С этим дело обстоит проще всего. В принципе, LyX по умолчанию использует словарь, одноименный с языком документа. Поэтому, если ваш словарь для ispell/aspell и в самом деле называется russian (а для koi8 это так), на вкладке «Spell checker» можно оставить всё как есть. Иное дело, если вам хотелось бы набирать текст в cp1251. В принципе, на этот случай имеется опция «use input encoding», которая позволяет передавать программе проверки орфографии название используемой кодировки. Но толку от нее мало: едва ли словарь для koi8 сможет воспринимать какие-то кодировки кроме своей собственной. А вот завесить ispell с ее помощью очень даже можно. Поэтому остается лишь раздобыть словарь в требуемой кодировке , после чего пометить флажок «use alternative language» и в расположенном рядом с ним текстовом поле ввести название соответствующего файла (для cp1251 он называется russianw).