Добрый день форумчане!
Имеется программа написанная на смеси Java/C++. Часть Java классов зашифрована. Расшифровка их происходит налету специальной Java машиной. То есть прога использует свою jvm.dll которая расшифровывает классы и потом передает в обычную jvm.dll.
Пробовал модифицировать defineClass в рантайме чтобы сделать дамп классов после дешифровки, но дамп оказался тем же самым зашифрованным.
Подскажите в каком направлении копать чтобы расшифровать классы.
Всем доброго дня!

| Сообщение посчитали полезным:

jinoweb пишет:
Подскажите в каком направлении копать чтобы расшифровать классы.
Eclipse с плагином для отладки Java не пробовали?

-----
IZ.RU

| Сообщение посчитали полезным:

DenCoder пишет:
Eclipse с плагином для отладки Java не пробовали?
Нет не пробовал. О каком плагине идет речь?

| Сообщение посчитали полезным:

jinoweb гугл

http://stackoverflow.com/questions/975271/remote-debugging-a-java-application
http://www.ibm.com/developerworks/library/os-ecbug/index.html

-----
[nice coder and reverser]

| Сообщение посчитали полезным:

Hellspawn пишет:
jinoweb гугл

http://stackoverflow.com/questions/975271/remote-debugging-a-java-application
http://www.ibm.com/developerworks/library/os-ecbug/index.html

Проблема в том что прога использует модифицированную Java машину и такой прием не прокатит

| Сообщение посчитали полезным:

Ето случаем у вас не Excelsior ?
http://www.excelsiorjet.com/

| Сообщение посчитали полезным:

sendersu пишет:
Ето случаем у вас не Excelsior ?
http://www.excelsiorjet.com/

Нет

| Сообщение посчитали полезным:

Срывайте покровы. Имя софта в студию, тут не форум гадалок.

| Сообщение посчитали полезным:

Quadcon пишет:
Срывайте покровы. Имя софта в студию, тут не форум гадалок.

Нет никакой тайны в названии софта - DAS XEntry Openshell 05-06/2016. Установочный диск весит 20 гигов. Могу дать ссылку

| Сообщение посчитали полезным:

там не совсем ява машина, а что то типа proxy exe и dll, он все запросы через себя сразу на оригинальную jvm пропускает, НО при старте ставит свои хуки на функции в java.dll:
_Java_java_lang_ClassLoader_defineClass0@28
_Java_java_lang_ClassLoader_defineClass1@32
_Java_java_lang_ClassLoader_defineClass2@32
и обрабатывает их по своему - то есть читает класс, определяет зашифрован или нет, если да - расшифровывает (алгоритм AES Rijndael, но не понял в чистом ли виде) и делает дальше то что делают оригинальные функции из java.dll

Добавлено спустя 1 минуту
jinoweb
а как дамп классов реализовывал?

| Сообщение посчитали полезным:

Дамп классов пробовал через модификацию defineClass* в рантайме джавы, а также пробовал снять heap dump

| Сообщение посчитали полезным:

RAMZEZzz пишет:
там не совсем ява машина, а что то типа proxy exe и dll, он все запросы через себя сразу на оригинальную jvm пропускает, НО при старте ставит свои хуки на функции в java.dll:
_Java_java_lang_ClassLoader_defineClass0@28
_Java_java_lang_ClassLoader_defineClass1@32
_Java_java_lang_ClassLoader_defineClass2@32
и обрабатывает их по своему - то есть читает класс, определяет зашифрован или нет, если да - расшифровывает (алгоритм AES Rijndael, но не понял в чистом ли виде) и делает дальше то что делают оригинальные функции из java.dll

Нашли ключ которым зашифрованы классы? Меня тоже интересует данный вопрос.

| Сообщение посчитали полезным:

assassin59
Ну не то что бы нашел... Сделал статик анпакер/пакер для этих классов. Извините сразу, поделиться не могу.
Но подскажу некоторые моменты.
Для каждого класса ключ уникальный,генерится хитрым алгоритмом с ксорками и таблицами из полного имени класса.
У шифрокласса есть заголовок длиной 0x1a, в котором содержится сигнатура и контрольная сумма.
Сам шифр тоже непростой, несколько раз aes, плюс ксорки по таблицам, перестановки и рекурсивные функции с AES.
Разбирал долго, недели 3 по 8-10 часов в день. IDA с декомпиляторами вам в помощь. Но в паблик, если что получится выкладывать не советую, они и так защиту чуть ли не в каждой версии меняют. А в классах заготовки для использования донглов уже находил...

| Сообщение посчитали полезным:

Спасибо за наводку. Как-то сложно все выглядит по вашим словам. Буду изучать.

| Сообщение посчитали полезным:

Я написал собственный пакет/анпакер для джава файлов. Топик можно закрыть

| Сообщение посчитали полезным:

Автор сам может закрыть свою тему, кнопка "Закрыть тему" находится внизу страницы, под кнопкой "Отправить сообщение".

| Сообщение посчитали полезным: