Здравствуйте, vovanse.
Указанная ошибка, соответственно, означает что в памяти целевого ключа нет записанного дескриптора аппаратного алгоритма AES128 с нужным числовым именем (порядковым номером).
Таким образом необходимо либо записать нужный аппаратный алгоритм в память электронного ключа именно с тем числовым именем, которое указанно в параметре dwAlgo, функции GrdCryptEx, или указать числовое имя уже записанного аппаратного алгоритма.
Обратите внимание: добиться формирования аппаратного алгоритма, защищенной ячейки или ячейки для загружаемого кода под нужным номером (числовым именем) можно лишь создав последовательно нужное количество записей (алгоритмов, защищенных ячеек) в маске ключа. То есть, если нужно чтобы в ключе был записан аппаратный алгоритм с числовым именем 9, придется записать еще, например, 8 защищенных ячеек, перед таким алгоритмом.