Jaka jest najlepsza 32-bitowa funkcja hash dla krótkich łańcuchów (nazw znaczników)?

Jaka jest najlepsza 32-bitowa funkcja skrótu dla stosunkowo krótkich łańcuchów?

Ciągi znaków to nazwy znaczników, które składają się z angielskich liter, cyfr, spacji i niektórych dodatkowych znaków (#, $, ., ...). Na przykład: Unit testing, C# 2.0.

Szukam "najlepszych" jak w "minimalnych kolizjach", wydajność nie jest ważna dla moich celów.

Author: Andrey Shchekin, 2010-02-28

8 answers

Jeśli wydajność nie jest ważna, po prostu weź Bezpieczny hash, taki jak MD5 lub SHA1, i obetnij jego wyjście do 32 bitów. To da ci dystrybucję kodów skrótu, która jest nieodróżnialna od losowej.

 22
Author: Nick Johnson,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2010-02-28 14:40:25

Nie jestem pewien, czy jest to najlepszy wybór, ale tutaj jest funkcja hash dla łańcuchów:

praktyka programowania (tabele HASH, pg. 57)

/* hash: compute hash value of string */
unsigned int hash(char *str)
{
   unsigned int h;
   unsigned char *p;

   h = 0;
   for (p = (unsigned char*)str; *p != '\0'; p++)
      h = MULTIPLIER * h + *p;
   return h; // or, h % ARRAY_SIZE;
}

Empirycznie , wartości 31 i 37 mają sprawdzone jako dobry wybór dla
mnożnik w funkcji hash dla ciągów ASCII.

 22
Author: Nick Dandoulakis,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2010-02-28 13:31:56

Przepraszam za bardzo późną odpowiedź w tej sprawie. Na początku tego roku stworzyłem stronę zatytułowaną Hashing Short Strings , która może być pomocna w tej dyskusji. Podsumowując, odkryłem, że CRC - 32 i FNV-1A są lepsze do haszowania krótkich strun. Są one wydajne i produkowane szeroko rozproszone i bezkolizyjne hasze w moich testach. Byłem zaskoczony, że MD5, SHA-1 i SHA-3 wytwarzały niewielką liczbę kolizji, gdy wyjście było złożone do 32 bitów.

 12
Author: gfkeogh,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2015-11-29 01:38:48

Możesz sprawdzić murmurhash2. Jest szybki, również dla małych strun i ma dobry końcowy etap mieszania, więc jest nawet dobry dla bardzo małych strun.

 1
Author: Ritsaert Hornstra,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2010-02-28 13:35:45

Jeśli rzadko zdarza się, że użytkownicy dodają nowe tagi, możesz użyć perfect hash ( http://en.wikipedia.org/wiki/Perfect_hash_function ) jest to rekomputerowane za każdym razem, gdy dodawany jest nowy znacznik. Oczywiście, nie znając problemu, który naprawdę próbujesz rozwiązać, zgadujesz, co możesz zrobić.

 0
Author: ,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2010-02-28 14:57:47

Użyj funkcji skrótu MaPrime2c:


    static const unsigned char sTable[256] =
    {
      0xa3,0xd7,0x09,0x83,0xf8,0x48,0xf6,0xf4,0xb3,0x21,0x15,0x78,0x99,0xb1,0xaf,0xf9,
      0xe7,0x2d,0x4d,0x8a,0xce,0x4c,0xca,0x2e,0x52,0x95,0xd9,0x1e,0x4e,0x38,0x44,0x28,
      0x0a,0xdf,0x02,0xa0,0x17,0xf1,0x60,0x68,0x12,0xb7,0x7a,0xc3,0xe9,0xfa,0x3d,0x53,
      0x96,0x84,0x6b,0xba,0xf2,0x63,0x9a,0x19,0x7c,0xae,0xe5,0xf5,0xf7,0x16,0x6a,0xa2,
      0x39,0xb6,0x7b,0x0f,0xc1,0x93,0x81,0x1b,0xee,0xb4,0x1a,0xea,0xd0,0x91,0x2f,0xb8,
      0x55,0xb9,0xda,0x85,0x3f,0x41,0xbf,0xe0,0x5a,0x58,0x80,0x5f,0x66,0x0b,0xd8,0x90,
      0x35,0xd5,0xc0,0xa7,0x33,0x06,0x65,0x69,0x45,0x00,0x94,0x56,0x6d,0x98,0x9b,0x76,
      0x97,0xfc,0xb2,0xc2,0xb0,0xfe,0xdb,0x20,0xe1,0xeb,0xd6,0xe4,0xdd,0x47,0x4a,0x1d,
      0x42,0xed,0x9e,0x6e,0x49,0x3c,0xcd,0x43,0x27,0xd2,0x07,0xd4,0xde,0xc7,0x67,0x18,
      0x89,0xcb,0x30,0x1f,0x8d,0xc6,0x8f,0xaa,0xc8,0x74,0xdc,0xc9,0x5d,0x5c,0x31,0xa4,
      0x70,0x88,0x61,0x2c,0x9f,0x0d,0x2b,0x87,0x50,0x82,0x54,0x64,0x26,0x7d,0x03,0x40,
      0x34,0x4b,0x1c,0x73,0xd1,0xc4,0xfd,0x3b,0xcc,0xfb,0x7f,0xab,0xe6,0x3e,0x5b,0xa5,
      0xad,0x04,0x23,0x9c,0x14,0x51,0x22,0xf0,0x29,0x79,0x71,0x7e,0xff,0x8c,0x0e,0xe2,
      0x0c,0xef,0xbc,0x72,0x75,0x6f,0x37,0xa1,0xec,0xd3,0x8e,0x62,0x8b,0x86,0x10,0xe8,
      0x08,0x77,0x11,0xbe,0x92,0x4f,0x24,0xc5,0x32,0x36,0x9d,0xcf,0xf3,0xa6,0xbb,0xac,
      0x5e,0x6c,0xa9,0x13,0x57,0x25,0xb5,0xe3,0xbd,0xa8,0x3a,0x01,0x05,0x59,0x2a,0x46
    };


    #define PRIME_MULT 1717


    unsigned int
    maPrime2cHash (unsigned char *str, unsigned int len)
    {
      unsigned int hash = len, i;


      for (i = 0; i != len; i++, str++)
        {

          hash ^= sTable[( *str + i) & 255];
          hash = hash * PRIME_MULT;
        }

      return hash;
    }

I spójrz na www.amsoftware.narod.ru/algo2.html do testów MaFastPrime, MaRushPrime itp.

 0
Author: Alexander,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2012-11-10 17:05:18

Jeśli twój program wymaga komunikacji z innym systemem, lepiej jest użyć dobrze znanego algorytmu. Szybki i brudny sposób to używanie pierwszych kilku znaków skrótu md5 . Nie musisz spędzać godzin ani dni, aby wymyślić koła w swoim projekcie.

Wadą jest duża szansa na kolizje. Jednak, jeśli twój hash jest dla sesji znacznik czasu, lub krótki cykl życia zadania. Nie ma problemu, aby go użyć.

 0
Author: Yi Jiang,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2013-04-26 06:55:28

To zależy od Twojego sprzętu. Na nowoczesnym sprzęcie, tj. Intel / AMD z SSE4. 2 lub arm7 należy użyć wewnętrznych _mm_crc32_uxx intrinsics, ponieważ są one optymalne dla krótkich ciągów. (Również dla długich klawiszy, ale wtedy lepiej użyć wersji gwintowanej Adlera, jak w zlib)

Na Starym lub nieznanym sprzęcie, wykonaj sondę czasową dla funkcji SSE4. 2 lub CRC32 lub po prostu użyj jednej, jeśli działa prosty dobry hash. Np. Murmur2 lub City

Przegląd jakości i wydajności jest proszę.: https://github.com/rurban/smhasher#smhasher

Istnieją również wszystkie implementacje. Favored are https://github.com/rurban/smhasher/blob/master/crc32_hw.c i https://github.com/rurban/smhasher/blob/master/MurmurHash2.cpp

Jeśli znasz klucze z góry, użyj perfect hash, a nie funkcji hash. Np. gperf lub mój phash: https://github.com/rurban/Perfect-Hash#name

Obecnie doskonały generowanie hashów za pomocą kompilatora c jest tak szybkie, że można je nawet tworzyć w locie i dynamicznie je ładować.

 0
Author: rurban,
Warning: date(): Invalid date.timezone value 'Europe/Kyiv', we selected the timezone 'UTC' for now. in /var/www/agent_stack/data/www/doraprojects.net/template/agent.layouts/content.php on line 54
2014-12-21 11:45:36