Ребят, не мучайтесь! Я только что помог другу решить эту проблему, скорее всего у вас точно тот же случай, который я опишу ниже.
Мой друг делает карту своей квартиры и залепил туда текстуру дерева, размером 600х600. У него вылетела эта ошибка. Недолго думая я прозрел, что контра не может принять таую большую текстуру. Мы изменили размер на 128х128 и все заработало!
Суть в том, что если вы делаете свой собственный wad, то позаботьтесь о том, чтобы все текстуры не превышали размер 128х128 или, может быть, 256х256.