Error while opening activation file ошибка при декодировании заполнения oaep

В настоящее время я работаю над классом, который шифрует большие объемы текста с помощью случайно сгенерированного ключа шифрования, зашифрованного сертификатом X509 от смарт-карты, используя RSACryptoServiceProvider для выполнения операций шифрования и дешифрования главного ключа. Однако, когда для опции заполнения fOEAP установлено значение true, у меня возникает ошибка «Ошибка при декодировании заполнения OAEP» при дешифровании каждый раз. Я проверил размер ключа, и он находится в допустимых пределах. И я прошел через точки останова, чтобы убедиться, что строка Base64, возвращаемая из функции шифрования, точно такая же, как зашифрованная строка Base64, которая возвращается обратно в функцию дешифрования при повторной загрузке файла.

Пара ключей определенно правильная, так как без OAEP она работает нормально. И я проверил кодировку текста тоже.

РЕДАКТИРОВАТЬ: Оказывается, это может быть проблема, специфичная для смарт-карты, когда я попытался расшифровать с локальным сертификатом X509, расшифровка прошла успешно.

РЕДАКТИРОВАТЬ: Это код дешифрования, который не удается:

string TestString = "Hello World!";
X509Certificate2 cert = DRXEncrypter.GetCertificate("Select a test certificate", "Select a certificate to use for this test from the local store.");
string key = DRXEncrypter.GenerateEncryptionKey(214);
Console.WriteLine("Encryption Key: " + key);

string encrypted = DRXEncrypter.EncryptBody(TestString, key);
Console.WriteLine("Encrypted Body: " + encrypted);

string cryptokey = DRXEncrypter.EncryptWithCert(cert, key);
Console.WriteLine("Encrypted Decryption Key: " + cryptokey);

string decrypted = DRXEncrypter.DecryptBody(encrypted, cryptokey, cert);
Console.WriteLine("Decrypted Body: " + decrypted);

Console.WriteLine("Output String: " + decrypted + ".");

Вот код из класса провайдера шифрования, который я написал. Я застрял в этом вопросе часами, поэтому было бы здорово, если бы кто-то мог мне помочь.

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using System.Security.Cryptography;
using System.Security.Cryptography.X509Certificates;
using System.IO;

namespace CoreDRXEditor
{
public class DRXEncrypter
{
    private byte[] Salt = Encoding.ASCII.GetBytes("81PO9j8I1a94j");
    private string EncryptionKey;
    private const bool UseOAEP = true;

    public DRXEncrypter(string EncryptionKey)
    {
        this.EncryptionKey = EncryptionKey;
    }

    public static string EncryptBody(string body, string encryptionkey)
    {
        // Use the plaintext master key to encrypt the body.
        DRXEncrypter enc = new DRXEncrypter(encryptionkey);

        // Encrypt the body.
        return enc.Encrypt(body);
    }

    public static int GetMaxKeySize(X509Certificate2 cert)
    {
        RSACryptoServiceProvider csp = cert.PublicKey.Key as RSACryptoServiceProvider;

        return csp.KeySize;
    }

    public static string DecryptBody(string body, string encryptionkey, X509Certificate2 cert)
    {
        // Decrypt the encrypted encryption key with the certificate.
        string DecryptedKey = Convert.ToBase64String(DecryptWithCert(cert, encryptionkey));

        // Create a new DRXEncrypter using the decrypted encryption key to decrypt the body.
        DRXEncrypter enc = new DRXEncrypter(DecryptedKey);

        // Return the decrypted body.
        return enc.Decrypt(body);
    }

    public static string GenerateEncryptionKey(int KeyLength)
    {
        using (RandomNumberGenerator rng = new RNGCryptoServiceProvider())
        {
            byte[] CryptoBytes = new byte[KeyLength];
            rng.GetBytes(CryptoBytes);

            return Convert.ToBase64String(CryptoBytes);
        }
    }

    public static X509Certificate2 GetCertificate(string title, string message)
    {
        X509Store cstore = new X509Store(StoreLocation.CurrentUser);
        cstore.Open(OpenFlags.ReadOnly);

        X509CertificateCollection certs = X509Certificate2UI.SelectFromCollection(cstore.Certificates, title, message, X509SelectionFlag.SingleSelection);

        if (certs.Count == 1)
        {
            X509Certificate2 mcert = certs[0] as X509Certificate2;
            return mcert;
        }
        else
        {
            return null;
        }
    }

    public static string EncryptWithCert(X509Certificate2 cert, string PlainText)
    {
        RSACryptoServiceProvider csp = cert.PublicKey.Key as RSACryptoServiceProvider;

        byte[] PlainBytes = Convert.FromBase64String(PlainText);

        // This converts the plain text into a byte array and then encrypts the raw bytes.
        byte[] CryptoBytes = csp.Encrypt(PlainBytes, UseOAEP);

        // This converts the encrypted bytes into a Base64 string.
        string ReturnString = Convert.ToBase64String(CryptoBytes);

        return ReturnString;
    }

    public static byte[] DecryptWithCert(X509Certificate2 cert, string EncryptedText)
    {
        RSACryptoServiceProvider csp = cert.PrivateKey as RSACryptoServiceProvider;

        //CspParameters csps = new CspParameters();

        byte[] EncryptedBytes = Convert.FromBase64String(EncryptedText);

        // This converts the encrypted, Base64 encoded byte array from EncryptWithCert() to a byte[] and decrypts it.
        byte[] CryptoBytes = csp.Decrypt(EncryptedBytes, UseOAEP);

        return CryptoBytes;
    }

    public string Encrypt(string PlainText)
    {
        RijndaelManaged Algorithm = null;
        string Output = null;

        try
        {
            Rfc2898DeriveBytes PrivateKey = new Rfc2898DeriveBytes(this.EncryptionKey, this.Salt);


            Algorithm = new RijndaelManaged();
            Algorithm.Key = PrivateKey.GetBytes(Algorithm.KeySize / 8);
            Algorithm.Padding = PaddingMode.PKCS7;

            ICryptoTransform Encryption = Algorithm.CreateEncryptor(Algorithm.Key, Algorithm.IV);

            using (MemoryStream msa = new MemoryStream())
            {
                msa.Write(BitConverter.GetBytes(Algorithm.IV.Length), 0, sizeof(int));
                msa.Write(Algorithm.IV, 0, Algorithm.IV.Length);
                using (CryptoStream csa = new CryptoStream(msa, Encryption, CryptoStreamMode.Write))
                {
                    using (StreamWriter swa = new StreamWriter(csa))
                    {
                        swa.Write(PlainText);
                    }
                }
                Output = Convert.ToBase64String(msa.ToArray());
            }
        }
        finally
        {
            if (Algorithm != null)
            {
                Algorithm.Clear();
            }
        }

        return Output;
    }

    public string Decrypt(string EncryptedText)
    {
        RijndaelManaged Algorithm = null;
        string Output = null;

        try
        {
            Rfc2898DeriveBytes PrivateKey = new Rfc2898DeriveBytes(this.EncryptionKey, this.Salt);

            byte[] KeyBytes = Convert.FromBase64String(EncryptedText);
            using (MemoryStream msb = new MemoryStream(KeyBytes))
            {
                Algorithm = new RijndaelManaged();
                Algorithm.Key = PrivateKey.GetBytes(Algorithm.KeySize / 8);
                Algorithm.IV = ReadByteArray(msb);
                Algorithm.Padding = PaddingMode.PKCS7;
                ICryptoTransform Decryption = Algorithm.CreateDecryptor(Algorithm.Key, Algorithm.IV);
                using (CryptoStream csb = new CryptoStream(msb, Decryption, CryptoStreamMode.Read))
                {
                    using (StreamReader srb = new StreamReader(csb))
                    {
                        Output = srb.ReadToEnd();
                    }
                }

            }
        }
        finally
        {
            if (Algorithm != null)
            {
                Algorithm.Clear();
            }
        }

        return Output;
    }

    public static string Sha512(string ToHash)
    {
        using (SHA512 SHA = new SHA512Managed())
        {
            byte[] HashByte = Encoding.UTF8.GetBytes(ToHash);
            byte[] HashBytes = SHA.ComputeHash(HashByte);
            string Hash = System.Text.Encoding.UTF8.GetString(HashBytes, 0, HashBytes.Length);
            return Hash;
        }
    }

    public static string Base64Encode(string data)
    {
        byte[] str = Encoding.UTF8.GetBytes(data);
        return Convert.ToBase64String(str);
    }

    public static string Base64Decode(string data)
    {
        byte[] str = Convert.FromBase64String(data);
        return Encoding.UTF8.GetString(str);
    }

    private byte[] ReadByteArray(Stream st)
    {
        byte[] Length = new byte[sizeof(int)];
        st.Read(Length, 0, Length.Length);
        byte[] Buffer = new byte[BitConverter.ToInt32(Length, 0)];
        st.Read(Buffer, 0, Buffer.Length);

        return Buffer;
    }
}
}

Я спорил с этим сегодня с помощью смарт-карт (или, точнее, Yubikey Neo с включенным апплетом смарт-карт PIV); используя этот код:

var encryptor = (RSACryptoServiceProvider)c.PublicKey.Key;
var decryptor = (RSACryptoServiceProvider)c.PrivateKey;

var encrypt = encryptor.Encrypt(bytes, RSAEncryptionPadding.Pkcs1);
var decrypt = decryptor.Decrypt(encrypt, RSAEncryptionPadding.Pkcs1);

Я обнаружил, что имеет значение, какой алгоритм заполнения я использую. Если я использую заполнение PKCS1, все работает. Если я использую OaepSHA1, я получаю ошибку Error while decoding [...]. Если я использую что-либо еще (например, OaepSHA256), я получаю ошибку Not supported.

Я могу только заключить, что моя смарт-карта не поддерживает должным образом OAEP SHA1, но с заполнением PKCS # 1 все хорошо.

Даже если это отвечает тому, что вы уже знаете, это может быть полезно в качестве другого источника данных для всех, кто прибывает с помощью смарт-карт.

Убедитесь, что размер ключа не слишком маленький или слишком большой.

См. Комментарии MSDN

RSACryptoServiceProvider поддерживает размеры ключей от 384 до 16384 бит с шагом 8 бит, если у вас установлен Microsoft Enhanced Cryptographic Provider. Он поддерживает размеры ключей от 384 до 512 бит с шагом 8 бит, если у вас установлен Microsoft Base Cryptographic Provider.

Таким образом, вам может потребоваться заполнить строки коротких клавиш несколькими байтами, чтобы получить минимальную длину ключа

Хорошо, мне удалось это проверить, и из того, что я вижу, у меня проблемы с некоторыми сертификатами. Я не уверен, почему некоторые сертификаты работают, а другие нет. Было бы хорошо узнать, почему некоторые сертификаты терпят неудачу в этом случае?

Во всяком случае, я создал новый самозаверяющий сертификат с помощью окна «Управление сертификатами шифрования файлов» и использовал этот сертификат, и все, кажется, работает.

Выход из вашего кода.

Encryption Key: aUc/GXWDoh2LktaEGeCJfju1dHP118yD/fzfT0iJLuhOq2QeyGpG6m3aBHaxvdH0ufeXRHbMjmlmPgIL/bhABzkT2C5Oa6ZhY3IFXb5t7JXZ3AtUunvtNAnRyFJ7MzklrSZGgQ
vF67DSNfIVE17doKt6j6mkCpSco56ooZCrOs2Mp3vSXqNjvjiwMEfQbk41aYUNVNVNlBGhdNQCIZIAKezQCUpWqzn2II27FIDfqDIEW4ieyzpXC05GzUlGXDxFOiFUPk3n0Y94vgeF8AlCD74eyZtz
WQ==
Encrypted Body: EAAAANS/W7+GGRbT1q5NCYvZlDZYtxaA8g55HzUqP5qxhenn
Encrypted Decryption Key: vc/tcsApmY1503BFi7oSu/RDvZivA1Ed58KJuLoEC6eE8q0BIa6ye2JvtXyxkVbzzL0MA51pZ2ZhMIsfCnBsEDjCgy+JLTZTGM1Mv+em9frFUKb0zHbICnPUa/3H
yd1yOWsdn5ws19QN2dzC6eau+ExhT2T/vyZO4Nf9NdHKnB8n2yB1rrQ/T+N2EYCNH/AVPDAsme6JG7k9Od2XIipBXMyCgXgWYZmQusq+JQjA9d3c4CrQYcg/ERF+K3oZv/gPicBkAR5taxwSxAajGg
bpkJNsbhTMHTN9bOn333qZ6ojlo5e882baZXuZWPr9qtj1b7ONoOyuSx/OvGKjt93BQg==
Decrypted Body: Hello World!
Output String: Hello World!.

Надеюсь, это поможет

• Remove From My Forums

• Question

• I’m using a certificate to encrypt/decrypt the data using Key Vault. Here is the flow of actions I’m trying to do. 

  1. Encrypt the Data. 

  2. Store at some location. Say SQL. (byte[])

  3. Retrieve it from SQL.

  4. Decrypt it. 

  Here is my methods. 

  public async Task<string> DecryptData(string VaultName, string KeyName, string SecretURI, byte[] DataToDecrypt)
          {
              SecretURI = SecretURI + "/keys/{1}/";
              var strVaultURI = string.Format(SecretURI, VaultName, KeyName);
              var decryptedResult = await _kvClient.DecryptAsync(strVaultURI, "RSA-OAEP", DataToDecrypt);
              return Encoding.UTF32.GetString(decryptedResult.Result);
          }
  
          public async Task<byte[]> EncryptData(string VaultName, string KeyName, string SecretURI, string DataToEncrypt)
          {
              SecretURI = SecretURI + "/keys/{1}/";
              var strVaultURI = string.Format(SecretURI, VaultName, KeyName);
              var encryptedResult = await _kvClient.EncryptAsync(strVaultURI, "RSA-OAEP", Encoding.UTF32.GetBytes(DataToEncrypt));
              return encryptedResult.Result;
          }

  During Decrypt, I end up with the error message » Error occurred while decoding OAEP padding. ExceptionType Microsoft.Azure.KeyVault.KeyVaultClientException Message An error has occurred. StackTrace at Microsoft.Azure.KeyVault.KeyVaultClient.<do>d__11b`1.MoveNext() </do>»

  However, If I encrypt the data and then decrypt it directly without storing it to SQL then it is working fine. 

  Not sure What difference it is making while i am storing it in SQL. I’m storing the byte[] directly into the database without converting it to string. (I also get the issue if i convert it to string)

  Appreciate any help,

  Thanks,

  Himal

• Remove From My Forums

• Question

• I’m using a certificate to encrypt/decrypt the data using Key Vault. Here is the flow of actions I’m trying to do. 

  1. Encrypt the Data. 

  2. Store at some location. Say SQL. (byte[])

  3. Retrieve it from SQL.

  4. Decrypt it. 

  Here is my methods. 

  public async Task<string> DecryptData(string VaultName, string KeyName, string SecretURI, byte[] DataToDecrypt)
          {
              SecretURI = SecretURI + "/keys/{1}/";
              var strVaultURI = string.Format(SecretURI, VaultName, KeyName);
              var decryptedResult = await _kvClient.DecryptAsync(strVaultURI, "RSA-OAEP", DataToDecrypt);
              return Encoding.UTF32.GetString(decryptedResult.Result);
          }
  
          public async Task<byte[]> EncryptData(string VaultName, string KeyName, string SecretURI, string DataToEncrypt)
          {
              SecretURI = SecretURI + "/keys/{1}/";
              var strVaultURI = string.Format(SecretURI, VaultName, KeyName);
              var encryptedResult = await _kvClient.EncryptAsync(strVaultURI, "RSA-OAEP", Encoding.UTF32.GetBytes(DataToEncrypt));
              return encryptedResult.Result;
          }

  During Decrypt, I end up with the error message » Error occurred while decoding OAEP padding. ExceptionType Microsoft.Azure.KeyVault.KeyVaultClientException Message An error has occurred. StackTrace at Microsoft.Azure.KeyVault.KeyVaultClient.<do>d__11b`1.MoveNext() </do>»

  However, If I encrypt the data and then decrypt it directly without storing it to SQL then it is working fine. 

  Not sure What difference it is making while i am storing it in SQL. I’m storing the byte[] directly into the database without converting it to string. (I also get the issue if i convert it to string)

  Appreciate any help,

  Thanks,

  Himal