1*f3813f4bSKeith Busch // SPDX-License-Identifier: GPL-2.0-only
2*f3813f4bSKeith Busch
3*f3813f4bSKeith Busch #include <linux/types.h>
4*f3813f4bSKeith Busch #include <linux/module.h>
5*f3813f4bSKeith Busch #include <linux/crc64.h>
6*f3813f4bSKeith Busch #include <linux/err.h>
7*f3813f4bSKeith Busch #include <linux/init.h>
8*f3813f4bSKeith Busch #include <crypto/hash.h>
9*f3813f4bSKeith Busch #include <crypto/algapi.h>
10*f3813f4bSKeith Busch #include <linux/static_key.h>
11*f3813f4bSKeith Busch #include <linux/notifier.h>
12*f3813f4bSKeith Busch
13*f3813f4bSKeith Busch static struct crypto_shash __rcu *crc64_rocksoft_tfm;
14*f3813f4bSKeith Busch static DEFINE_STATIC_KEY_TRUE(crc64_rocksoft_fallback);
15*f3813f4bSKeith Busch static DEFINE_MUTEX(crc64_rocksoft_mutex);
16*f3813f4bSKeith Busch static struct work_struct crc64_rocksoft_rehash_work;
17*f3813f4bSKeith Busch
crc64_rocksoft_notify(struct notifier_block * self,unsigned long val,void * data)18*f3813f4bSKeith Busch static int crc64_rocksoft_notify(struct notifier_block *self, unsigned long val, void *data)
19*f3813f4bSKeith Busch {
20*f3813f4bSKeith Busch struct crypto_alg *alg = data;
21*f3813f4bSKeith Busch
22*f3813f4bSKeith Busch if (val != CRYPTO_MSG_ALG_LOADED ||
23*f3813f4bSKeith Busch strcmp(alg->cra_name, CRC64_ROCKSOFT_STRING))
24*f3813f4bSKeith Busch return NOTIFY_DONE;
25*f3813f4bSKeith Busch
26*f3813f4bSKeith Busch schedule_work(&crc64_rocksoft_rehash_work);
27*f3813f4bSKeith Busch return NOTIFY_OK;
28*f3813f4bSKeith Busch }
29*f3813f4bSKeith Busch
crc64_rocksoft_rehash(struct work_struct * work)30*f3813f4bSKeith Busch static void crc64_rocksoft_rehash(struct work_struct *work)
31*f3813f4bSKeith Busch {
32*f3813f4bSKeith Busch struct crypto_shash *new, *old;
33*f3813f4bSKeith Busch
34*f3813f4bSKeith Busch mutex_lock(&crc64_rocksoft_mutex);
35*f3813f4bSKeith Busch old = rcu_dereference_protected(crc64_rocksoft_tfm,
36*f3813f4bSKeith Busch lockdep_is_held(&crc64_rocksoft_mutex));
37*f3813f4bSKeith Busch new = crypto_alloc_shash(CRC64_ROCKSOFT_STRING, 0, 0);
38*f3813f4bSKeith Busch if (IS_ERR(new)) {
39*f3813f4bSKeith Busch mutex_unlock(&crc64_rocksoft_mutex);
40*f3813f4bSKeith Busch return;
41*f3813f4bSKeith Busch }
42*f3813f4bSKeith Busch rcu_assign_pointer(crc64_rocksoft_tfm, new);
43*f3813f4bSKeith Busch mutex_unlock(&crc64_rocksoft_mutex);
44*f3813f4bSKeith Busch
45*f3813f4bSKeith Busch if (old) {
46*f3813f4bSKeith Busch synchronize_rcu();
47*f3813f4bSKeith Busch crypto_free_shash(old);
48*f3813f4bSKeith Busch } else {
49*f3813f4bSKeith Busch static_branch_disable(&crc64_rocksoft_fallback);
50*f3813f4bSKeith Busch }
51*f3813f4bSKeith Busch }
52*f3813f4bSKeith Busch
53*f3813f4bSKeith Busch static struct notifier_block crc64_rocksoft_nb = {
54*f3813f4bSKeith Busch .notifier_call = crc64_rocksoft_notify,
55*f3813f4bSKeith Busch };
56*f3813f4bSKeith Busch
crc64_rocksoft_update(u64 crc,const unsigned char * buffer,size_t len)57*f3813f4bSKeith Busch u64 crc64_rocksoft_update(u64 crc, const unsigned char *buffer, size_t len)
58*f3813f4bSKeith Busch {
59*f3813f4bSKeith Busch struct {
60*f3813f4bSKeith Busch struct shash_desc shash;
61*f3813f4bSKeith Busch u64 crc;
62*f3813f4bSKeith Busch } desc;
63*f3813f4bSKeith Busch int err;
64*f3813f4bSKeith Busch
65*f3813f4bSKeith Busch if (static_branch_unlikely(&crc64_rocksoft_fallback))
66*f3813f4bSKeith Busch return crc64_rocksoft_generic(crc, buffer, len);
67*f3813f4bSKeith Busch
68*f3813f4bSKeith Busch rcu_read_lock();
69*f3813f4bSKeith Busch desc.shash.tfm = rcu_dereference(crc64_rocksoft_tfm);
70*f3813f4bSKeith Busch desc.crc = crc;
71*f3813f4bSKeith Busch err = crypto_shash_update(&desc.shash, buffer, len);
72*f3813f4bSKeith Busch rcu_read_unlock();
73*f3813f4bSKeith Busch
74*f3813f4bSKeith Busch BUG_ON(err);
75*f3813f4bSKeith Busch
76*f3813f4bSKeith Busch return desc.crc;
77*f3813f4bSKeith Busch }
78*f3813f4bSKeith Busch EXPORT_SYMBOL_GPL(crc64_rocksoft_update);
79*f3813f4bSKeith Busch
crc64_rocksoft(const unsigned char * buffer,size_t len)80*f3813f4bSKeith Busch u64 crc64_rocksoft(const unsigned char *buffer, size_t len)
81*f3813f4bSKeith Busch {
82*f3813f4bSKeith Busch return crc64_rocksoft_update(0, buffer, len);
83*f3813f4bSKeith Busch }
84*f3813f4bSKeith Busch EXPORT_SYMBOL_GPL(crc64_rocksoft);
85*f3813f4bSKeith Busch
crc64_rocksoft_mod_init(void)86*f3813f4bSKeith Busch static int __init crc64_rocksoft_mod_init(void)
87*f3813f4bSKeith Busch {
88*f3813f4bSKeith Busch INIT_WORK(&crc64_rocksoft_rehash_work, crc64_rocksoft_rehash);
89*f3813f4bSKeith Busch crypto_register_notifier(&crc64_rocksoft_nb);
90*f3813f4bSKeith Busch crc64_rocksoft_rehash(&crc64_rocksoft_rehash_work);
91*f3813f4bSKeith Busch return 0;
92*f3813f4bSKeith Busch }
93*f3813f4bSKeith Busch
crc64_rocksoft_mod_fini(void)94*f3813f4bSKeith Busch static void __exit crc64_rocksoft_mod_fini(void)
95*f3813f4bSKeith Busch {
96*f3813f4bSKeith Busch crypto_unregister_notifier(&crc64_rocksoft_nb);
97*f3813f4bSKeith Busch cancel_work_sync(&crc64_rocksoft_rehash_work);
98*f3813f4bSKeith Busch crypto_free_shash(rcu_dereference_protected(crc64_rocksoft_tfm, 1));
99*f3813f4bSKeith Busch }
100*f3813f4bSKeith Busch
101*f3813f4bSKeith Busch module_init(crc64_rocksoft_mod_init);
102*f3813f4bSKeith Busch module_exit(crc64_rocksoft_mod_fini);
103*f3813f4bSKeith Busch
crc64_rocksoft_transform_show(char * buffer,const struct kernel_param * kp)104*f3813f4bSKeith Busch static int crc64_rocksoft_transform_show(char *buffer, const struct kernel_param *kp)
105*f3813f4bSKeith Busch {
106*f3813f4bSKeith Busch struct crypto_shash *tfm;
107*f3813f4bSKeith Busch int len;
108*f3813f4bSKeith Busch
109*f3813f4bSKeith Busch if (static_branch_unlikely(&crc64_rocksoft_fallback))
110*f3813f4bSKeith Busch return sprintf(buffer, "fallback\n");
111*f3813f4bSKeith Busch
112*f3813f4bSKeith Busch rcu_read_lock();
113*f3813f4bSKeith Busch tfm = rcu_dereference(crc64_rocksoft_tfm);
114*f3813f4bSKeith Busch len = snprintf(buffer, PAGE_SIZE, "%s\n",
115*f3813f4bSKeith Busch crypto_shash_driver_name(tfm));
116*f3813f4bSKeith Busch rcu_read_unlock();
117*f3813f4bSKeith Busch
118*f3813f4bSKeith Busch return len;
119*f3813f4bSKeith Busch }
120*f3813f4bSKeith Busch
121*f3813f4bSKeith Busch module_param_call(transform, NULL, crc64_rocksoft_transform_show, NULL, 0444);
122*f3813f4bSKeith Busch
123*f3813f4bSKeith Busch MODULE_AUTHOR("Keith Busch <kbusch@kernel.org>");
124*f3813f4bSKeith Busch MODULE_DESCRIPTION("Rocksoft model CRC64 calculation (library API)");
125*f3813f4bSKeith Busch MODULE_LICENSE("GPL");
126*f3813f4bSKeith Busch MODULE_SOFTDEP("pre: crc64");
127