Спецификация SSPU.dll

1. Обзор

Эта DLL обеспечивает связь с SSPU и операции Sloppy. Каждая операция передает входные данные устройству SSPU, выполняет вычисление с указанными параметрами и получает выходные данные.

2. Рабочая среда

3. Подключение

3.1 Предварительные условия

• Установите .NET 8.0 SDK или более позднюю версию.
• Запускайте приложение с правами администратора.
• Разместите SSPU.dll в доступном пути.

3.2 Добавление ссылки

// Add a reference to SSPU.dll
// Option A: Visual Studio: right-click project -> Add Reference -> Browse
// Option B: add this to .csproj:
<Reference Include="SSPU">
  <HintPath>path\to\SSPU.dll</HintPath>
</Reference>

3.3 Шаги интеграции

using SSPU;

// 1. Create an instance
var sspu = new SSPUDevice();

// 2. Connect the device
int result = sspu.Connect();
if (result != 0) {
    Console.WriteLine($"Connection failed: {result}");
    return;
}

// 3. Run an operation (SloppySigmoid example)
byte[] inBuffer = PrepareInputData(...);
byte[] outBuffer = new byte[expectedOutputSize];
result = sspu.SloppySigmoid(inBuffer, outBuffer, param_n, param_b);

// 4. Prefer asynchronous execution
await Task.Run(() => sspu.SloppySigmoid(inBuffer, outBuffer, param_n, param_b));

4. Спецификация API

4.1 Список методов

int Connect()

int SloppySigmoid(byte[] inBuffer, byte[] outBuffer, byte param_n, byte param_b)

int SloppyTanh(byte[] inBuffer, byte[] outBuffer, byte param_n, byte param_b)

int SloppySiLU(byte[] inBuffer, byte[] outBuffer, byte param_n, byte param_b)

int SloppyGeLU(byte[] inBuffer, byte[] outBuffer, byte param_n, byte param_b)

int SloppySoftmax(byte[] inBuffer, byte[] outBuffer, byte param_n, byte param_b, byte param_d, byte param_mode = 0)

int IntAddSat(byte[] aBuffer, byte[] bBuffer, byte[] outBuffer, byte param_n)

int IntSubSat(byte[] aBuffer, byte[] bBuffer, byte[] outBuffer, byte param_n)

int IntMulSat(byte[] aBuffer, byte[] bBuffer, byte[] outBuffer, byte param_n, byte param_k)

4.2 Ошибки

5. Спецификация входных и выходных данных

5.1 Термины

5.2 Типы входа и выхода

5.3 Входные данные

Процесс подготовки входных данных

1. Маскируйте значение до n бит (например, используйте только младшие 22 бита).
2. Выполните знаковое расширение: если старший бит равен 1, считайте значение отрицательным и заполните старшие биты единицами.
3. Упакуйте биты, начиная с младшего (LSB first).
4. Храните каждый элемент в (n + 7) / 8 байтах; неиспользуемые биты последнего байта не применяются.

Пример расположения битов (n = 22 -> 3 байта/элемент)

Пример входа: {45, -73} (n = 22)

// Byte sequence for {45, -73} (n = 22, 3 bytes/data):
// 45  -> 0x00002D -> Byte0: 0x2D, Byte1: 0x00, Byte2: 0x00
// -73 -> 0x3FFFB7 -> Byte0: 0xB7, Byte1: 0xFF, Byte2: 0x3F
//
// Final inBuffer: 2D 00 00 B7 FF 3F

Примечания по входу/выходу SloppySoftmax

• Вход состоит из последовательных групп Softmax; каждая группа содержит 2^d последовательных элементов.
• Выход возвращается в том же порядке групп.
• Число входных элементов должно быть кратно 2^d (полные группы).
• Это приближенная операция; результат может отклоняться примерно на +/-1 младший разряд.

5.4 Выходные данные

Процесс восстановления выходных данных

1. Восстановите биты выходной разрядности в порядке LSB first.
2. Интерпретируйте знак в соответствии с выходным типом.
3. Знаковые (Tanh / SiLU / GeLU): используйте старший бит как знаковый и выполните знаковое расширение.
4. Беззнаковые (Sigmoid / Softmax): не выполняйте знаковое расширение (дробь с фиксированной точкой не меньше 0).

Выделение буфера

5.5 Ограничение емкости

Один вычислительный вызов обрабатывает не более одной страницы устройства: эффективная область содержит 15872 элемента. Вызовы сверх лимита должен разбивать вызывающий код.

Примеры максимального числа групп SloppySoftmax

Важно: При превышении лимита возвращается код ошибки -12. SloppySoftmax также возвращает -12, если число входных элементов не кратно 2^d.