[ErikPshat]

E2E41, попробуй у тебя же есть PS3.

В PSP мы используем следующий хак...

1. Берётся заголовок от игры-демки. Там просто демки не проверяются и свободно запускаются на официальной прошивке. Заголовок 0x150 байт менять нельзя ни байтика, в нём записаны кирки и чексуммы самого сжатого и подписанного ELF и потом заголовок подсчитан и подписан, поэтому его трогать нельзя. Механизм подписи тела известен.
2. А в заголовке прописано 3 значения - это размер декриптованного ELF, размер сжатого ELF и всего файла целиком.
3. Мы берём кастомное Хоумбрю-приложение, добиваем нулями декриптованный ELF до размера, указанного в заголовке.
4. Сжимем его пофигу чем, например с помощью 7-Zip или libzip, вернее в формат Gzip, который понимает PSP.
5. Затем добиваем нулями этот архив до размера, указанного в заголовке. Там хоть на гигабайт добавь в конец нули, он всё равно распакуется.
6. Потом этот правильный архив шифруем кирком от заголовка (это механизм PSP, а на PS3 шифруется ключами под версию EBOOT)
7. Ну и вставляем шифрованное тело к оригинальному официальному заголовку этой игры и ву-а-ля.
8. По всем проверкам на размеры игры кастомное Хоумбрю проходит и запускается на оффпрошивке.

Вообщем, если интересно, почитай, начиная с этого поста: https://www.pspx.ru/forum/showthread.php?p=1070631
Правда на PS3 всё по другому. Но можно подумать использовать подобный механизм.

Сообщение от ErikPshat то можно конец ELF забивать нулями настолько

Эмм, в заголовке EBOOT.BIN должен же быть где-то записан размер декриптованного ELF.