Trigger event loop more intelligently and automatically in libvitastor_c

.gitea/workflows/buildenv.Dockerfile

@@ -20,7 +20,7 @@ RUN echo 'deb http://deb.debian.org/debian bullseye-backports main' >> /etc/apt/
 
 RUN apt-get update
 RUN apt-get -y install etcd qemu-system-x86 qemu-block-extra qemu-utils fio libasan5 \
-    libgoogle-perftools-dev devscripts libjerasure-dev cmake libibverbs-dev libisal-dev
+    liburing1 liburing-dev libgoogle-perftools-dev devscripts libjerasure-dev cmake libibverbs-dev libisal-dev
 RUN apt-get -y build-dep fio qemu=`dpkg -s qemu-system-x86|grep ^Version:|awk '{print $2}'`
 RUN apt-get update && apt-get -y install jq lp-solve sudo nfs-common fdisk parted
 RUN apt-get --download-only source fio qemu=`dpkg -s qemu-system-x86|grep ^Version:|awk '{print $2}'`

.gitea/workflows/test.yml

@@ -144,24 +144,6 @@ jobs:
           echo ""
         done
 
-  test_change_pg_count_online:
-    runs-on: ubuntu-latest
-    needs: build
-    container: ${{env.TEST_IMAGE}}:${{github.sha}}
-    steps:
-    - name: Run test
-      id: test
-      timeout-minutes: 3
-      run: /root/vitastor/tests/test_change_pg_count_online.sh
-    - name: Print logs
-      if: always() && steps.test.outcome == 'failure'
-      run: |
-        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
-          echo "-------- $i --------"
-          cat $i
-          echo ""
-        done
-
   test_change_pg_size:
     runs-on: ubuntu-latest
     needs: build
@@ -702,24 +684,6 @@ jobs:
           echo ""
         done
 
-  test_write_iothreads:
-    runs-on: ubuntu-latest
-    needs: build
-    container: ${{env.TEST_IMAGE}}:${{github.sha}}
-    steps:
-    - name: Run test
-      id: test
-      timeout-minutes: 3
-      run: TEST_NAME=iothreads GLOBAL_CONFIG=',"client_iothread_count":4' /root/vitastor/tests/test_write.sh
-    - name: Print logs
-      if: always() && steps.test.outcome == 'failure'
-      run: |
-        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
-          echo "-------- $i --------"
-          cat $i
-          echo ""
-        done
-
   test_write_no_same:
     runs-on: ubuntu-latest
     needs: build
@@ -756,24 +720,6 @@ jobs:
           echo ""
         done
 
-  test_heal_local_read:
-    runs-on: ubuntu-latest
-    needs: build
-    container: ${{env.TEST_IMAGE}}:${{github.sha}}
-    steps:
-    - name: Run test
-      id: test
-      timeout-minutes: 10
-      run: TEST_NAME=local_read POOLCFG='"local_reads":"random",' /root/vitastor/tests/test_heal.sh
-    - name: Print logs
-      if: always() && steps.test.outcome == 'failure'
-      run: |
-        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
-          echo "-------- $i --------"
-          cat $i
-          echo ""
-        done
-
   test_heal_ec:
     runs-on: ubuntu-latest
     needs: build
@@ -810,24 +756,6 @@ jobs:
           echo ""
         done
 
-  test_reweight_half:
-    runs-on: ubuntu-latest
-    needs: build
-    container: ${{env.TEST_IMAGE}}:${{github.sha}}
-    steps:
-    - name: Run test
-      id: test
-      timeout-minutes: 3
-      run: /root/vitastor/tests/test_reweight_half.sh
-    - name: Print logs
-      if: always() && steps.test.outcome == 'failure'
-      run: |
-        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
-          echo "-------- $i --------"
-          cat $i
-          echo ""
-        done
-
   test_heal_csum_32k_dmj:
     runs-on: ubuntu-latest
     needs: build

.gitmodules

@@ -4,6 +4,3 @@
 [submodule "json11"]
 	path = json11
 	url = ../json11.git
-[submodule "emhash"]
-	path = emhash
-	url = ../emhash.git

CMakeLists.txt

@@ -2,19 +2,6 @@ cmake_minimum_required(VERSION 2.8.12)
 
 project(vitastor)
 
-set(VITASTOR_VERSION "2.3.0")
+set(VITASTOR_VERSION "1.11.0")
 
-include(CTest)
-
-add_custom_target(build_tests)
-add_custom_target(test
-	COMMAND
-	echo leak:tcmalloc > ${CMAKE_CURRENT_BINARY_DIR}/lsan-suppress.txt &&
-	env LSAN_OPTIONS=suppressions=${CMAKE_CURRENT_BINARY_DIR}/lsan-suppress.txt ${CMAKE_CTEST_COMMAND}
-)
-# make -j16 -C ../../build test_heap && ../../build/src/test/test_heap
-# make -j16 -C ../../build test_heap && rm -f $(find ../../build -name '*.gcda') && ctest -V -T test -T coverage -R heap --test-dir ../../build && (cd ../../build; gcovr -f ../src --html --html-nested -o coverage/index.html; cd ../src/test)
-# make -j16 -C ../../build test_blockstore && rm -f $(find ../../build -name '*.gcda') && ctest -V -T test -T coverage -R blockstore --test-dir ../../build && (cd ../../build; gcovr -f ../src --html --html-nested -o coverage/index.html; cd ../src/test)
-# kcov --include-path=../../../src ../../kcov ./test_blockstore
-add_dependencies(test build_tests)
 add_subdirectory(src)

README-ru.md

@@ -6,7 +6,7 @@
 
 Вернём былую скорость кластерному блочному хранилищу!
 
-Vitastor - распределённая блочная, файловая и объектная SDS (программная СХД), прямой аналог Ceph RBD, CephFS и RGW,
+Vitastor - распределённая блочная и файловая SDS (программная СХД), прямой аналог Ceph RBD и CephFS,
 а также внутренних СХД популярных облачных провайдеров. Однако, в отличие от них, Vitastor
 быстрый и при этом простой. Только пока маленький :-).
 
@@ -19,7 +19,7 @@ Vitastor нацелен в первую очередь на SSD и SSD+HDD кл
 TCP и RDMA и на хорошем железе может достигать задержки 4 КБ чтения и записи на уровне ~0.1 мс,
 что примерно в 10 раз быстрее, чем Ceph и другие популярные программные СХД.
 
-Vitastor поддерживает QEMU-драйвер, протоколы UBLK, NBD и NFS, драйверы OpenStack, OpenNebula, Proxmox, Kubernetes.
+Vitastor поддерживает QEMU-драйвер, протоколы NBD и NFS, драйверы OpenStack, OpenNebula, Proxmox, Kubernetes.
 Другие драйверы могут также быть легко реализованы.
 
 Подробности смотрите в документации по ссылкам. Можете начать отсюда: [Быстрый старт](docs/intro/quickstart.ru.md).
@@ -46,7 +46,6 @@ Vitastor поддерживает QEMU-драйвер, протоколы UBLK,
   - [OpenNebula](docs/installation/opennebula.ru.md)
   - [OpenStack](docs/installation/openstack.ru.md)
   - [Kubernetes CSI](docs/installation/kubernetes.ru.md)
-  - [S3](docs/installation/s3.ru.md)
   - [Сборка из исходных кодов](docs/installation/source.ru.md)
 - Конфигурация
   - [Обзор](docs/config.ru.md)
@@ -64,9 +63,8 @@ Vitastor поддерживает QEMU-драйвер, протоколы UBLK,
   - [vitastor-cli](docs/usage/cli.ru.md) (консольный интерфейс)
   - [vitastor-disk](docs/usage/disk.ru.md) (управление дисками)
   - [fio](docs/usage/fio.ru.md) для тестов производительности
-  - [UBLK](docs/usage/ublk.ru.md) для монтирования ядром
-  - [NBD](docs/usage/nbd.ru.md) - старый интерфейс для монтирования ядром
-  - [QEMU, qemu-img и VDUSE](docs/usage/qemu.ru.md)
+  - [NBD](docs/usage/nbd.ru.md) для монтирования ядром
+  - [QEMU и qemu-img](docs/usage/qemu.ru.md)
   - [NFS](docs/usage/nfs.ru.md) кластерная файловая система и псевдо-ФС прокси
   - [Администрирование](docs/usage/admin.ru.md)
 - Производительность

README.md

@@ -6,7 +6,7 @@
 
 Make Clustered Block Storage Fast Again.
 
-Vitastor is a distributed block, file and object SDS, direct replacement of Ceph RBD, CephFS and RGW,
+Vitastor is a distributed block and file SDS, direct replacement of Ceph RBD and CephFS,
 and also internal SDS's of public clouds. However, in contrast to them, Vitastor is fast
 and simple at the same time. The only thing is it's slightly young :-).
 
@@ -19,7 +19,7 @@ supports TCP and RDMA and may achieve 4 KB read and write latency as low as ~0.1
 with proper hardware which is ~10 times faster than other popular SDS's like Ceph
 or internal systems of public clouds.
 
-Vitastor supports QEMU, UBLK, NBD, NFS protocols, OpenStack, OpenNebula, Proxmox, Kubernetes drivers.
+Vitastor supports QEMU, NBD, NFS protocols, OpenStack, OpenNebula, Proxmox, Kubernetes drivers.
 More drivers may be created easily.
 
 Read more details in the documentation. You can start from here: [Quick Start](docs/intro/quickstart.en.md).
@@ -46,7 +46,6 @@ Read more details in the documentation. You can start from here: [Quick Start](d
   - [OpenNebula](docs/installation/opennebula.en.md)
   - [OpenStack](docs/installation/openstack.en.md)
   - [Kubernetes CSI](docs/installation/kubernetes.en.md)
-  - [S3](docs/installation/s3.en.md)
   - [Building from Source](docs/installation/source.en.md)
 - Configuration
   - [Overview](docs/config.en.md)
@@ -64,9 +63,8 @@ Read more details in the documentation. You can start from here: [Quick Start](d
   - [vitastor-cli](docs/usage/cli.en.md) (command-line interface)
   - [vitastor-disk](docs/usage/disk.en.md) (disk management tool)
   - [fio](docs/usage/fio.en.md) for benchmarks
-  - [UBLK](docs/usage/ublk.en.md) for kernel mounts
-  - [NBD](docs/usage/nbd.en.md) - old interface for kernel mounts
-  - [QEMU, qemu-img and VDUSE](docs/usage/qemu.en.md)
+  - [NBD](docs/usage/nbd.en.md) for kernel mounts
+  - [QEMU and qemu-img](docs/usage/qemu.en.md)
   - [NFS](docs/usage/nfs.en.md) clustered file system and pseudo-FS proxy
   - [Administration](docs/usage/admin.en.md)
 - Performance

csi/Dockerfile

@@ -36,9 +36,9 @@ RUN (echo deb http://vitastor.io/debian bookworm main > /etc/apt/sources.list.d/
     ((echo 'Package: *'; echo 'Pin: origin "vitastor.io"'; echo 'Pin-Priority: 1000') > /etc/apt/preferences.d/vitastor.pref) && \
     wget -q -O /etc/apt/trusted.gpg.d/vitastor.gpg https://vitastor.io/debian/pubkey.gpg && \
     apt-get update && \
-    apt-get install -y vitastor-client ibverbs-providers && \
-    wget https://vitastor.io/archive/qemu/qemu-bookworm-9.2.2%2Bds-1%2Bvitastor4/qemu-utils_9.2.2%2Bds-1%2Bvitastor4_amd64.deb && \
-    wget https://vitastor.io/archive/qemu/qemu-bookworm-9.2.2%2Bds-1%2Bvitastor4/qemu-block-extra_9.2.2%2Bds-1%2Bvitastor4_amd64.deb && \
+    apt-get install -y vitastor-client && \
+    wget https://vitastor.io/archive/qemu/qemu-bookworm-8.1.2%2Bds-1%2Bvitastor1/qemu-utils_8.1.2%2Bds-1%2Bvitastor1_amd64.deb && \
+    wget https://vitastor.io/archive/qemu/qemu-bookworm-8.1.2%2Bds-1%2Bvitastor1/qemu-block-extra_8.1.2%2Bds-1%2Bvitastor1_amd64.deb && \
     dpkg -x qemu-utils*.deb tmp1 && \
     dpkg -x qemu-block-extra*.deb tmp1 && \
     cp -a tmp1/usr/bin/qemu-storage-daemon /usr/bin/ && \

csi/Makefile

@@ -1,4 +1,4 @@
-VITASTOR_VERSION ?= v2.3.0
+VITASTOR_VERSION ?= v1.11.0
 
 all: build push
 

csi/deploy/004-csi-nodeplugin.yaml

@@ -49,7 +49,7 @@ spec:
             capabilities:
               add: ["SYS_ADMIN"]
             allowPrivilegeEscalation: true
-          image: vitalif/vitastor-csi:v2.3.0
+          image: vitalif/vitastor-csi:v1.11.0
           args:
             - "--node=$(NODE_ID)"
             - "--endpoint=$(CSI_ENDPOINT)"

csi/deploy/007-csi-provisioner.yaml

@@ -121,7 +121,7 @@ spec:
             privileged: true
             capabilities:
               add: ["SYS_ADMIN"]
-          image: vitalif/vitastor-csi:v2.3.0
+          image: vitalif/vitastor-csi:v1.11.0
           args:
             - "--node=$(NODE_ID)"
             - "--endpoint=$(CSI_ENDPOINT)"

csi/src/config.go

@@ -5,7 +5,7 @@ package vitastor
 
 const (
     vitastorCSIDriverName    = "csi.vitastor.io"
-    vitastorCSIDriverVersion = "2.3.0"
+    vitastorCSIDriverVersion = "1.11.0"
 )
 
 // Config struct fills the parameters of request or user input

debian/build-vitastor-bookworm.sh

@@ -1,4 +1,7 @@
 #!/bin/bash
 
-docker build --build-arg DISTRO=debian --build-arg REL=bookworm -t vitastor-buildenv:bookworm -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=bookworm -v `dirname $0`/../:/root/vitastor vitastor-buildenv:bookworm /root/vitastor/debian/vitastor-build.sh
+cat < vitastor.Dockerfile > ../Dockerfile
+cd ..
+mkdir -p packages
+sudo podman build --build-arg DISTRO=debian --build-arg REL=bookworm -v `pwd`/packages:/root/packages -f Dockerfile .
+rm Dockerfile

debian/build-vitastor-bullseye.sh

@@ -1,4 +1,7 @@
 #!/bin/bash
 
-docker build --build-arg DISTRO=debian --build-arg REL=bullseye -t vitastor-buildenv:bullseye -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=bullseye -v `dirname $0`/../:/root/vitastor vitastor-buildenv:bullseye /root/vitastor/debian/vitastor-build.sh
+cat < vitastor.Dockerfile > ../Dockerfile
+cd ..
+mkdir -p packages
+sudo podman build --build-arg DISTRO=debian --build-arg REL=bullseye -v `pwd`/packages:/root/packages -f Dockerfile .
+rm Dockerfile

debian/build-vitastor-buster.sh

@@ -1,4 +1,7 @@
 #!/bin/bash
 
-docker build --build-arg DISTRO=debian --build-arg REL=buster -t vitastor-buildenv:buster -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=buster -v `dirname $0`/../:/root/vitastor vitastor-buildenv:buster /root/vitastor/debian/vitastor-build.sh
+cat < vitastor.Dockerfile > ../Dockerfile
+cd ..
+mkdir -p packages
+sudo podman build --build-arg DISTRO=debian --build-arg REL=buster -v `pwd`/packages:/root/packages -f Dockerfile .
+rm Dockerfile

debian/build-vitastor-trixie.sh

@@ -1,4 +0,0 @@
-#!/bin/bash
-
-docker build --build-arg DISTRO=debian --build-arg REL=trixie -t vitastor-buildenv:trixie -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=trixie -v `dirname $0`/../:/root/vitastor vitastor-buildenv:trixie /root/vitastor/debian/vitastor-build.sh

debian/build-vitastor-ubuntu-jammy.sh

@@ -1,5 +1,7 @@
 #!/bin/bash
-# Ubuntu 22.04 Jammy Jellyfish
 
-docker build --build-arg DISTRO=ubuntu --build-arg REL=jammy -t vitastor-buildenv:jammy -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=jammy -v `dirname $0`/../:/root/vitastor vitastor-buildenv:jammy /root/vitastor/debian/vitastor-build.sh
+cat < vitastor.Dockerfile > ../Dockerfile
+cd ..
+mkdir -p packages
+sudo podman build --build-arg DISTRO=ubuntu --build-arg REL=jammy -v `pwd`/packages:/root/packages -f Dockerfile .
+rm Dockerfile

debian/build-vitastor-ubuntu-noble.sh

@@ -1,5 +0,0 @@
-#!/bin/bash
-# 24.04 Noble Numbat
-
-docker build --build-arg DISTRO=ubuntu --build-arg REL=noble -t vitastor-buildenv:noble -f vitastor-buildenv.Dockerfile .
-docker run -i --rm -e REL=noble -v `dirname $0`/../:/root/vitastor vitastor-buildenv:noble /root/vitastor/debian/vitastor-build.sh

debian/changelog

@@ -1,4 +1,4 @@
-vitastor (2.3.0-1) unstable; urgency=medium
+vitastor (1.11.0-1) unstable; urgency=medium
 
   * Bugfixes
 

debian/control

@@ -2,9 +2,9 @@ Source: vitastor
 Section: admin
 Priority: optional
 Maintainer: Vitaliy Filippov <vitalif@yourcmc.ru>
-Build-Depends: debhelper, g++ (>= 8), libstdc++6 (>= 8),
+Build-Depends: debhelper, liburing-dev (>= 0.6), g++ (>= 8), libstdc++6 (>= 8),
   linux-libc-dev, libgoogle-perftools-dev, libjerasure-dev, libgf-complete-dev,
-  libibverbs-dev, librdmacm-dev, libisal-dev, cmake, pkg-config, libnl-3-dev, libnl-genl-3-dev,
+  libibverbs-dev, libisal-dev, cmake, pkg-config, libnl-3-dev, libnl-genl-3-dev,
   node-bindings <!nocheck>, node-gyp, node-nan
 Standards-Version: 4.5.0
 Homepage: https://vitastor.io/

debian/patched-qemu.Dockerfile

@@ -10,14 +10,10 @@ ARG REL=
 WORKDIR /root
 
 RUN if [ "$REL" = "buster" -o "$REL" = "bullseye" -o "$REL" = "bookworm" ]; then \
-        if [ "$REL" = "buster" ]; then \
-            echo "deb http://archive.debian.org/debian $REL-backports main" >> /etc/apt/sources.list; \
-        else \
-            echo "deb http://deb.debian.org/debian $REL-backports main" >> /etc/apt/sources.list; \
-        fi; \
+        echo "deb http://deb.debian.org/debian $REL-backports main" >> /etc/apt/sources.list; \
         echo >> /etc/apt/preferences; \
         echo 'Package: *' >> /etc/apt/preferences; \
-        echo "Pin: release n=$REL-backports" >> /etc/apt/preferences; \
+        echo "Pin: release a=$REL-backports" >> /etc/apt/preferences; \
         echo 'Pin-Priority: 500' >> /etc/apt/preferences; \
     fi; \
     grep '^deb ' /etc/apt/sources.list | perl -pe 's/^deb/deb-src/' >> /etc/apt/sources.list; \
@@ -26,7 +22,7 @@ RUN if [ "$REL" = "buster" -o "$REL" = "bullseye" -o "$REL" = "bookworm" ]; then
     echo 'APT::Install-Suggests false;' >> /etc/apt/apt.conf
 
 RUN apt-get update
-RUN DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y install fio libgoogle-perftools-dev devscripts
+RUN DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts
 RUN DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y build-dep qemu
 # To build a custom version
 #RUN cp /root/packages/qemu-orig/* /root
@@ -60,7 +56,7 @@ RUN set -e; \
     quilt add block/vitastor.c; \
     cp /root/qemu_driver.c block/vitastor.c; \
     quilt refresh; \
-    V=$(head -n1 debian/changelog | perl -pe 's/5\.2\+dfsg-9/5.2+dfsg-11/; s/^.*\((.*?)(\+deb\d+u\d+)?(~bpo[\d\+]*)?\).*$/$1/')+vitastor5; \
+    V=$(head -n1 debian/changelog | perl -pe 's/5\.2\+dfsg-9/5.2+dfsg-11/; s/^.*\((.*?)(~bpo[\d\+]*)?\).*$/$1/')+vitastor4; \
     if [ "$REL" = bullseye ]; then V=${V}bullseye; fi; \
     DEBEMAIL="Vitaliy Filippov <vitalif@yourcmc.ru>" dch -D $REL -v $V 'Plug Vitastor block driver'; \
     DEB_BUILD_OPTIONS=nocheck dpkg-buildpackage --jobs=auto -sa; \

debian/vitastor-build.sh

@@ -1,60 +0,0 @@
-#!/bin/bash
-# To be ran inside buildenv docker
-
-set -e -x
-
-[ -e /usr/lib/x86_64-linux-gnu/pkgconfig/libisal.pc ] || cp /root/vitastor/debian/libisal.pc /usr/lib/x86_64-linux-gnu/pkgconfig
-
-mkdir -p /root/fio-build/
-cd /root/fio-build/
-rm -rf /root/fio-build/*
-dpkg-source -x /root/fio*.dsc
-
-FULLVER=`head -n1 /root/vitastor/debian/changelog | perl -pe 's/^.*\((.*?)\).*$/$1/'`
-VER=${FULLVER%%-*}
-rm -rf /root/vitastor-$VER
-mkdir /root/vitastor-$VER
-cd /root/vitastor
-cp -a $(ls | grep -v packages) /root/vitastor-$VER
-
-rm -rf /root/vitastor/packages/vitastor-$REL
-mkdir -p /root/vitastor/packages/vitastor-$REL
-mv /root/vitastor-$VER /root/vitastor/packages/vitastor-$REL/
-
-cd /root/vitastor/packages/vitastor-$REL/vitastor-$VER
-
-rm -rf fio
-ln -s /root/fio-build/fio-*/ ./fio
-FIO=`head -n1 fio/debian/changelog | perl -pe 's/^.*\((.*?)\).*$/$1/'`
-ls /usr/include/linux/raw.h || cp ./debian/raw.h /usr/include/linux/raw.h
-sh copy-fio-includes.sh
-rm fio
-mkdir -p a b debian/patches
-mv fio-copy b/fio
-diff -NaurpbB a b > debian/patches/fio-headers.patch || true
-echo fio-headers.patch >> debian/patches/series
-rm -rf a b
-
-echo "dep:fio=$FIO" > debian/fio_version
-
-cd /root/vitastor/packages/vitastor-$REL/vitastor-$VER
-mkdir mon/node_modules
-cd mon/node_modules
-curl -s https://git.yourcmc.ru/vitalif/antietcd/archive/master.tar.gz | tar -zx
-curl -s https://git.yourcmc.ru/vitalif/tinyraft/archive/master.tar.gz | tar -zx
-
-cd /root/vitastor/packages/vitastor-$REL
-tar --sort=name --mtime='2020-01-01' --owner=0 --group=0 --exclude=debian -cJf vitastor_$VER.orig.tar.xz vitastor-$VER
-cd vitastor-$VER
-DEBEMAIL="Vitaliy Filippov <vitalif@yourcmc.ru>" dch -D $REL -v "$FULLVER""$REL" "Rebuild for $REL"
-DEB_BUILD_OPTIONS=nocheck dpkg-buildpackage --jobs=auto -sa
-rm -rf /root/vitastor/packages/vitastor-$REL/vitastor-*/
-
-# Why does ubuntu rename debug packages to *.ddeb?
-cd /root/vitastor/packages/vitastor-$REL
-if ls *.ddeb >/dev/null; then
-    perl -i -pe 's/\.ddeb/.deb/' *.buildinfo *.changes
-    for i in *.ddeb; do
-        mv $i ${i%%.ddeb}.deb
-    done
-fi

debian/vitastor-buildenv.Dockerfile

@@ -1,31 +0,0 @@
-# Build environment for building Vitastor packages for Debian inside a container
-# cd ..
-# docker build --build-arg DISTRO=debian --build-arg REL=bullseye -f debian/vitastor.Dockerfile -t vitastor-buildenv:bullseye .
-# docker run --rm -e REL=bullseye -v ./:/root/vitastor /root/vitastor/debian/vitastor-build.sh
-
-ARG DISTRO=debian
-ARG REL=
-FROM $DISTRO:$REL
-ARG DISTRO=debian
-ARG REL=
-
-WORKDIR /root
-
-RUN set -e -x; \
-    if [ "$REL" = "buster" ]; then \
-        perl -i -pe 's/deb.debian.org/archive.debian.org/' /etc/apt/sources.list; \
-        apt-get update; \
-        apt-get -y install wget; \
-        wget https://vitastor.io/debian/pubkey.gpg -O /etc/apt/trusted.gpg.d/vitastor.gpg; \
-        echo "deb https://vitastor.io/debian $REL main" >> /etc/apt/sources.list; \
-    fi; \
-    grep '^deb ' /etc/apt/sources.list | perl -pe 's/^deb/deb-src/' >> /etc/apt/sources.list; \
-    perl -i -pe 's/Types: deb$/Types: deb deb-src/' /etc/apt/sources.list.d/*.sources || true; \
-    echo 'APT::Install-Recommends false;' >> /etc/apt/apt.conf; \
-    echo 'APT::Install-Suggests false;' >> /etc/apt/apt.conf
-
-RUN apt-get update && \
-    apt-get -y install fio libgoogle-perftools-dev devscripts libjerasure-dev cmake \
-        libibverbs-dev librdmacm-dev libisal-dev libnl-3-dev libnl-genl-3-dev curl nodejs npm node-nan node-bindings && \
-    apt-get -y build-dep fio && \
-    apt-get --download-only source fio

debian/vitastor-client.install

@@ -2,7 +2,6 @@ usr/bin/vita
 usr/bin/vitastor-cli
 usr/bin/vitastor-rm
 usr/bin/vitastor-nbd
-usr/bin/vitastor-ublk
 usr/bin/vitastor-nfs
 usr/bin/vitastor-kv
 usr/bin/vitastor-kv-stress

debian/vitastor.Dockerfile

@@ -0,0 +1,65 @@
+# Build Vitastor packages for Debian inside a container
+# cd ..; podman build --build-arg DISTRO=debian --build-arg REL=bullseye -v `pwd`/packages:/root/packages -f debian/vitastor.Dockerfile .
+
+ARG DISTRO=debian
+ARG REL=
+FROM $DISTRO:$REL
+ARG DISTRO=debian
+ARG REL=
+
+WORKDIR /root
+
+RUN set -e -x; \
+    if [ "$REL" = "buster" ]; then \
+        apt-get update; \
+        apt-get -y install wget; \
+        wget https://vitastor.io/debian/pubkey.gpg -O /etc/apt/trusted.gpg.d/vitastor.gpg; \
+        echo "deb https://vitastor.io/debian $REL main" >> /etc/apt/sources.list; \
+    fi; \
+    grep '^deb ' /etc/apt/sources.list | perl -pe 's/^deb/deb-src/' >> /etc/apt/sources.list; \
+    perl -i -pe 's/Types: deb$/Types: deb deb-src/' /etc/apt/sources.list.d/debian.sources || true; \
+    echo 'APT::Install-Recommends false;' >> /etc/apt/apt.conf; \
+    echo 'APT::Install-Suggests false;' >> /etc/apt/apt.conf
+
+RUN apt-get update && \
+    apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts libjerasure-dev cmake \
+        libibverbs-dev librdmacm-dev libisal-dev libnl-3-dev libnl-genl-3-dev curl nodejs npm node-nan node-bindings && \
+    apt-get -y build-dep fio && \
+    apt-get --download-only source fio
+
+ADD . /root/vitastor
+RUN set -e -x; \
+    [ -e /usr/lib/x86_64-linux-gnu/pkgconfig/libisal.pc ] || cp /root/vitastor/debian/libisal.pc /usr/lib/x86_64-linux-gnu/pkgconfig; \
+    mkdir -p /root/fio-build/; \
+    cd /root/fio-build/; \
+    rm -rf /root/fio-build/*; \
+    dpkg-source -x /root/fio*.dsc; \
+    mkdir -p /root/packages/vitastor-$REL; \
+    rm -rf /root/packages/vitastor-$REL/*; \
+    cd /root/packages/vitastor-$REL; \
+    FULLVER=$(head -n1 /root/vitastor/debian/changelog | perl -pe 's/^.*\((.*?)\).*$/$1/'); \
+    VER=${FULLVER%%-*}; \
+    cp -r /root/vitastor vitastor-$VER; \
+    cd vitastor-$VER; \
+    ln -s /root/fio-build/fio-*/ ./fio; \
+    FIO=$(head -n1 fio/debian/changelog | perl -pe 's/^.*\((.*?)\).*$/$1/'); \
+    ls /usr/include/linux/raw.h || cp ./debian/raw.h /usr/include/linux/raw.h; \
+    sh copy-fio-includes.sh; \
+    rm fio; \
+    mkdir -p a b debian/patches; \
+    mv fio-copy b/fio; \
+    diff -NaurpbB a b > debian/patches/fio-headers.patch || true; \
+    echo fio-headers.patch >> debian/patches/series; \
+    rm -rf a b; \
+    echo "dep:fio=$FIO" > debian/fio_version; \
+    cd /root/packages/vitastor-$REL/vitastor-$VER; \
+    mkdir mon/node_modules; \
+    cd mon/node_modules; \
+    curl -s https://git.yourcmc.ru/vitalif/antietcd/archive/master.tar.gz | tar -zx; \
+    curl -s https://git.yourcmc.ru/vitalif/tinyraft/archive/master.tar.gz | tar -zx; \
+    cd /root/packages/vitastor-$REL; \
+    tar --sort=name --mtime='2020-01-01' --owner=0 --group=0 --exclude=debian -cJf vitastor_$VER.orig.tar.xz vitastor-$VER; \
+    cd vitastor-$VER; \
+    DEBFULLNAME="Vitaliy Filippov <vitalif@yourcmc.ru>" dch -D $REL -v "$FULLVER""$REL" "Rebuild for $REL"; \
+    DEB_BUILD_OPTIONS=nocheck dpkg-buildpackage --jobs=auto -sa; \
+    rm -rf /root/packages/vitastor-$REL/vitastor-*/

docker/Dockerfile

@@ -3,7 +3,7 @@
 FROM debian:bookworm
 
 ADD etc/apt /etc/apt/
-RUN apt-get update && apt-get -y install vitastor ibverbs-providers udev systemd qemu-system-x86 qemu-system-common qemu-block-extra qemu-utils jq nfs-common && apt-get clean
+RUN apt-get update && apt-get -y install vitastor qemu-system-x86 qemu-system-common qemu-block-extra qemu-utils jq nfs-common && apt-get clean
 ADD sleep.sh /usr/bin/
 ADD install.sh /usr/bin/
 ADD scripts /opt/scripts/

docker/Makefile

@@ -1,9 +1,9 @@
-VITASTOR_VERSION ?= v2.3.0
+VITASTOR_VERSION ?= v1.11.0
 
 all: build push
 
 build:
-	@docker build --no-cache --rm -t vitalif/vitastor:$(VITASTOR_VERSION) .
+	@docker build --rm -t vitalif/vitastor:$(VITASTOR_VERSION) .
 
 push:
 	@docker push vitalif/vitastor:$(VITASTOR_VERSION)

docker/etc/apt/preferences

@@ -1,3 +0,0 @@
-Package: *
-Pin: release n=bookworm-backports
-Pin-Priority: 500

docker/etc/apt/sources.list.d/vitastor.list

@@ -1,2 +1 @@
 deb http://vitastor.io/debian bookworm main
-deb http://http.debian.net/debian/ bookworm-backports main

docker/etc/systemd/system/vitastor-host.service

@@ -7,8 +7,8 @@ PartOf=vitastor.target
 [Service]
 Restart=always
 EnvironmentFile=/etc/vitastor/docker.conf
-ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /dev:/dev -v /run:/run \
-    --security-opt seccomp=unconfined --privileged --pid=host --log-driver none --network host --name vitastor vitastor:$VITASTOR_VERSION \
+ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /dev:/dev \
+    --privileged --log-driver none --network host --name vitastor vitastor:$VITASTOR_VERSION \
     sleep.sh'
 ExecStartPost=udevadm trigger
 ExecStop=docker stop vitastor

docker/etc/systemd/system/vitastor-osd@.service

@@ -12,8 +12,7 @@ EnvironmentFile=/etc/vitastor/docker.conf
 SyslogIdentifier=vitastor-osd%i
 ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /dev:/dev \
     $(for i in $(ls /dev/vitastor/osd%i-*); do echo --device $i:$i; done) \
-    --log-driver none --network host --ulimit nofile=1048576 --ulimit memlock=-1 \
-    --security-opt seccomp=unconfined $CONTAINER_OPTIONS --name vitastor-osd%i \
+    --log-driver none --network host --ulimit nofile=1048576 --ulimit memlock=-1 $CONTAINER_OPTIONS --name vitastor-osd%i \
     vitastor:$VITASTOR_VERSION vitastor-disk exec-osd /dev/vitastor/osd%i-data'
 ExecStartPre=+docker exec vitastor vitastor-disk pre-exec /dev/vitastor/osd%i-data
 ExecStop=docker stop vitastor-etcd%i

docker/etc/vitastor/docker.conf

@@ -4,7 +4,7 @@
 #
 
 # Desired Vitastor version
-VITASTOR_VERSION=v2.3.0
+VITASTOR_VERSION=1.11.0
 
 # Additional arguments for all containers
 # For example, you may want to specify a custom logging driver here

docs/config/client.en.md

@@ -13,7 +13,6 @@ affect their interaction with the cluster.
 - [client_retry_interval](#client_retry_interval)
 - [client_eio_retry_interval](#client_eio_retry_interval)
 - [client_retry_enospc](#client_retry_enospc)
-- [client_wait_up_timeout](#client_wait_up_timeout)
 - [client_max_dirty_bytes](#client_max_dirty_bytes)
 - [client_max_dirty_ops](#client_max_dirty_ops)
 - [client_enable_writeback](#client_enable_writeback)
@@ -24,10 +23,6 @@ affect their interaction with the cluster.
 - [nbd_max_devices](#nbd_max_devices)
 - [nbd_max_part](#nbd_max_part)
 - [osd_nearfull_ratio](#osd_nearfull_ratio)
-- [hostname](#hostname)
-- [ublk_queue_depth](#ublk_queue_depth)
-- [ublk_max_io_size](#ublk_max_io_size)
-- [qemu_file_mirror_path](#qemu_file_mirror_path)
 
 ## client_iothread_count
 
@@ -75,19 +70,6 @@ and clients are not blocked and just get EIO error code instead.
 Retry writes on out of space errors to wait until some space is freed on
 OSDs.
 
-## client_wait_up_timeout
-
-- Type: seconds
-- Default: 16
-- Can be changed online: yes
-
-Wait for this number of seconds until PGs are up when doing operations
-which require all PGs to be up. Currently only used by object listings
-in delete and merge-based commands ([vitastor-cli rm](../usage/cli.en.md#rm), merge and so on).
-
-The default value is calculated as `1 + OSD lease timeout`, which is
-`1 + etcd_report_interval + max_etcd_attempts*2*etcd_quick_timeout`.
-
 ## client_max_dirty_bytes
 
 - Type: integer
@@ -219,37 +201,3 @@ just one OSD becomes 100 % full!
 However, unlike in Ceph, 100 % full Vitastor OSDs don't crash (in Ceph they're
 unable to start at all), so you'll be able to recover from "out of space" errors
 without destroying and recreating OSDs.
-
-## hostname
-
-- Type: string
-- Can be changed online: yes
-
-Clients use host name to find their distance to OSDs when [localized reads](pool.en.md#local_reads)
-are enabled. By default, standard [gethostname](https://man7.org/linux/man-pages/man2/gethostname.2.html)
-function is used to determine host name, but you can also override it with this parameter.
-
-## ublk_queue_depth
-
-- Type: integer
-- Default: 256
-
-Default queue depth for [Vitastor ublk servers](../usage/ublk.en.md).
-
-## ublk_max_io_size
-
-- Type: integer
-
-Default maximum I/O size for Vitastor [ublk servers](../usage/ublk.en.md).
-The largest of 1 MB and pool block size multiplied by EC data chunk count is used if not specified.
-
-## qemu_file_mirror_path
-
-- Type: string
-
-When set to an FS directory path (for example, `/mnt/vitastor/`), `qemu-img info` and similar
-QAPI commands return the name of the image inside this directory instead of normal
-`vitastor://?image=abc` URI as `filename`.
-
-This allows to then mount this path using [vitastor-nfs](../usage/nfs.en.md) and trick
-third-party systems like Veeam which rely on `filename` in the image info but don't support Vitastor.

docs/config/client.ru.md

@@ -13,7 +13,6 @@
 - [client_retry_interval](#client_retry_interval)
 - [client_eio_retry_interval](#client_eio_retry_interval)
 - [client_retry_enospc](#client_retry_enospc)
-- [client_wait_up_timeout](#client_wait_up_timeout)
 - [client_max_dirty_bytes](#client_max_dirty_bytes)
 - [client_max_dirty_ops](#client_max_dirty_ops)
 - [client_enable_writeback](#client_enable_writeback)
@@ -24,10 +23,6 @@
 - [nbd_max_devices](#nbd_max_devices)
 - [nbd_max_part](#nbd_max_part)
 - [osd_nearfull_ratio](#osd_nearfull_ratio)
-- [hostname](#hostname)
-- [ublk_queue_depth](#ublk_queue_depth)
-- [ublk_max_io_size](#ublk_max_io_size)
-- [qemu_file_mirror_path](#qemu_file_mirror_path)
 
 ## client_iothread_count
 
@@ -77,19 +72,6 @@ RDMA и хотите повысить пиковую производитель
 Повторять запросы записи, завершившиеся с ошибками нехватки места, т.е.
 ожидать, пока на OSD не освободится место.
 
-## client_wait_up_timeout
-
-- Тип: секунды
-- Значение по умолчанию: 16
-- Можно менять на лету: да
-
-Время ожидания поднятия PG при операциях, требующих активности всех PG.
-В данный момент используется листингами объектов в командах, использующих
-удаление и слияние ([vitastor-cli rm](../usage/cli.ru.md#rm), merge и подобные).
-
-Значение по умолчанию вычисляется как `1 + время lease OSD`, равное
-`1 + etcd_report_interval + max_etcd_attempts*2*etcd_quick_timeout`.
-
 ## client_max_dirty_bytes
 
 - Тип: целое число
@@ -223,40 +205,3 @@ RDMA и хотите повысить пиковую производитель
 заполненные на 100% OSD вообще не могут стартовать), так что вы сможете
 восстановить работу кластера после ошибок отсутствия свободного места
 без уничтожения и пересоздания OSD.
-
-## hostname
-
-- Тип: строка
-- Можно менять на лету: да
-
-Клиенты используют имя хоста для определения расстояния до OSD, когда включены
-[локальные чтения](pool.ru.md#local_reads). По умолчанию для определения имени
-хоста используется стандартная функция [gethostname](https://man7.org/linux/man-pages/man2/gethostname.2.html),
-но вы также можете задать имя хоста вручную данным параметром.
-
-## ublk_queue_depth
-
-- Тип: целое число
-- Значение по умолчанию: 256
-
-Глубина очереди по умолчанию для [ublk-серверов Vitastor](../usage/ublk.ru.md).
-
-## ublk_max_io_size
-
-- Тип: целое число
-
-Максимальный размер запроса ввода-вывода для [ublk-серверов Vitastor](../usage/ublk.ru.md).
-Если не задан, используется максимум из 1 МБ и размера блока пула, умноженного на число частей
-данных EC-пула.
-
-## qemu_file_mirror_path
-
-- Тип: строка
-
-Если установить эту опцию равной пути к каталогу в ФС, команда `qemu-img info` и подобные
-команды QAPI будут возвращать в поле `filename` имя образа внутри заданного каталога вместо
-обычного адреса типа `vitastor://?image=abc`.
-
-Это позволяет смонтировать этот путь с помощью [vitastor-nfs](../usage/nfs.ru.md) и обмануть
-сторонние системы типа Veeam, которые полагаются на поле `filename` в информации об образе QEMU,
-но не поддерживают Vitastor.

docs/config/monitor.en.md

@@ -74,13 +74,13 @@ Grafana dashboard suitable for this exporter is here: [Vitastor-Grafana-6+.json]
 - Type: integer
 - Default: 8060
 
-HTTP port for monitors to listen to (including metrics exporter)
+HTTP port for monitors to listen on (including metrics exporter)
 
 ## mon_http_ip
 
 - Type: string
 
-IP address for monitors to listen to (all addresses by default)
+IP address for monitors to listen on (all addresses by default)
 
 ## mon_https_cert
 

docs/config/network.en.md

@@ -9,11 +9,9 @@
 These parameters apply to clients and OSDs and affect network connection logic
 between clients, OSDs and etcd.
 
-- [osd_network](#osd_network)
-- [osd_cluster_network](#osd_cluster_network)
+- [tcp_header_buffer_size](#tcp_header_buffer_size)
+- [use_sync_send_recv](#use_sync_send_recv)
 - [use_rdma](#use_rdma)
-- [use_rdmacm](#use_rdmacm)
-- [disable_tcp](#disable_tcp)
 - [rdma_device](#rdma_device)
 - [rdma_port_num](#rdma_port_num)
 - [rdma_gid_index](#rdma_gid_index)
@@ -32,63 +30,38 @@ between clients, OSDs and etcd.
 - [etcd_slow_timeout](#etcd_slow_timeout)
 - [etcd_keepalive_timeout](#etcd_keepalive_timeout)
 - [etcd_ws_keepalive_interval](#etcd_ws_keepalive_interval)
-- [etcd_min_reload_interval](#etcd_min_reload_interval)
-- [tcp_header_buffer_size](#tcp_header_buffer_size)
-- [min_zerocopy_send_size](#min_zerocopy_send_size)
-- [use_sync_send_recv](#use_sync_send_recv)
 
-## osd_network
+## tcp_header_buffer_size
 
-- Type: string or array of strings
+- Type: integer
+- Default: 65536
 
-Network mask of public OSD network(s) (IPv4 or IPv6). Each OSD listens to all
-addresses of UP + RUNNING interfaces matching one of these networks, on the
-same port. Port is auto-selected except if [bind_port](osd.en.md#bind_port) is
-explicitly specified. Bind address(es) may also be overridden manually by
-specifying [bind_address](osd.en.md#bind_address). If OSD networks are not specified
-at all, OSD just listens to a wildcard address (0.0.0.0).
+Size of the buffer used to read data using an additional copy. Vitastor
+packet headers are 128 bytes, payload is always at least 4 KB, so it is
+usually beneficial to try to read multiple packets at once even though
+it requires to copy the data an additional time. The rest of each packet
+is received without an additional copy. You can try to play with this
+parameter and see how it affects random iops and linear bandwidth if you
+want.
 
-## osd_cluster_network
+## use_sync_send_recv
 
-- Type: string or array of strings
+- Type: boolean
+- Default: false
 
-Network mask of separate network(s) (IPv4 or IPv6) to use for OSD
-cluster connections. I.e. OSDs will always attempt to use these networks
-to connect to other OSDs, while clients will attempt to use networks from
-[osd_network](#osd_network).
+If true, synchronous send/recv syscalls are used instead of io_uring for
+socket communication. Useless for OSDs because they require io_uring anyway,
+but may be required for clients with old kernel versions.
 
 ## use_rdma
 
 - Type: boolean
 - Default: true
 
-Try to use RDMA through libibverbs for communication if it's available.
-Disable if you don't want Vitastor to use RDMA. TCP-only clients can also
-talk to an RDMA-enabled cluster, so disabling RDMA may be needed if clients
-have RDMA devices, but they are not connected to the cluster.
-
-`use_rdma` works with RoCEv1/RoCEv2 networks, but not with iWARP and,
-maybe, with some Infiniband configurations which require RDMA-CM.
-Consider `use_rdmacm` for such networks.
-
-## use_rdmacm
-
-- Type: boolean
-- Default: false
-
-Use an alternative implementation of RDMA through RDMA-CM (Connection
-Manager). Works with all RDMA networks: Infiniband, iWARP and
-RoCEv1/RoCEv2, and even allows to disable TCP and run only with RDMA.
-OSDs always use random port numbers for RDMA-CM listeners, different
-from their TCP ports. `use_rdma` is automatically disabled when
-`use_rdmacm` is enabled.
-
-## disable_tcp
-
-- Type: boolean
-- Default: true
-
-Fully disable TCP and only use RDMA-CM for OSD communication.
+Try to use RDMA for communication if it's available. Disable if you don't
+want Vitastor to use RDMA. TCP-only clients can also talk to an RDMA-enabled
+cluster, so disabling RDMA may be needed if clients have RDMA devices,
+but they are not connected to the cluster.
 
 ## rdma_device
 
@@ -119,13 +92,12 @@ PFC (Priority Flow Control) and ECN (Explicit Congestion Notification).
 ## rdma_port_num
 
 - Type: integer
+- Default: 1
 
 RDMA device port number to use. Only for devices that have more than 1 port.
 See `phys_port_cnt` in `ibv_devinfo -v` output to determine how many ports
 your device has.
 
-Not relevant for RDMA-CM (use_rdmacm).
-
 ## rdma_gid_index
 
 - Type: integer
@@ -141,14 +113,13 @@ GID auto-selection is unsupported with libibverbs < v32.
 
 A correct rdma_gid_index for RoCEv2 is usually 1 (IPv6) or 3 (IPv4).
 
-Not relevant for RDMA-CM (use_rdmacm).
-
 ## rdma_mtu
 
 - Type: integer
+- Default: 4096
 
-RDMA Path MTU to use. Must be 1024, 2048 or 4096. Default is to use the
-RDMA device's MTU.
+RDMA Path MTU to use. Must be 1024, 2048 or 4096. There is usually no
+sense to change it from the default 4096.
 
 ## rdma_max_sge
 
@@ -290,63 +261,3 @@ etcd_report_interval to guarantee that keepalive actually works.
 
 etcd websocket ping interval required to keep the connection alive and
 detect disconnections quickly.
-
-## etcd_min_reload_interval
-
-- Type: milliseconds
-- Default: 1000
-- Can be changed online: yes
-
-Minimum interval for full etcd state reload. Introduced to prevent
-excessive load on etcd during outages when etcd can't keep up with event
-streams and cancels them.
-
-## tcp_header_buffer_size
-
-- Type: integer
-- Default: 65536
-
-Size of the buffer used to read data using an additional copy. Vitastor
-packet headers are 128 bytes, payload is always at least 4 KB, so it is
-usually beneficial to try to read multiple packets at once even though
-it requires to copy the data an additional time. The rest of each packet
-is received without an additional copy. You can try to play with this
-parameter and see how it affects random iops and linear bandwidth if you
-want.
-
-## min_zerocopy_send_size
-
-- Type: integer
-- Default: 32768
-
-OSDs and clients will attempt to use io_uring-based zero-copy TCP send
-for buffers larger than this number of bytes. Zero-copy send with io_uring is
-supported since Linux kernel version 6.1. Support is auto-detected and disabled
-automatically when not available. It can also be disabled explicitly by setting
-this parameter to a negative value.
-
-⚠️ Warning! Zero-copy send performance may vary greatly from CPU to CPU and from
-one kernel version to another. Generally, it tends to only make benefit with larger
-messages. With smaller messages (say, 4 KB), it may actually be slower. 32 KB is
-enough for almost all CPUs, but even smaller values are optimal for some of them.
-For example, 4 KB is OK for EPYC Milan/Genoa and 12 KB is OK for Xeon Ice Lake
-(but verify it yourself please).
-
-Verification instructions:
-1. Add `iommu=pt` into your Linux kernel command line and reboot.
-2. Upgrade your kernel. For example, it's very important to use 6.11+ with recent AMD EPYCs.
-3. Run some tests with the [send-zerocopy liburing example](https://github.com/axboe/liburing/blob/master/examples/send-zerocopy.c)
-   to find the minimal message size for which zero-copy is optimal.
-   Use `./send-zerocopy tcp -4 -R` at the server side and
-   `time ./send-zerocopy tcp -4 -b 0 -s BUFFER_SIZE -D SERVER_IP` at the client side with
-   `-z 0` (no zero-copy) and `-z 1` (zero-copy), and compare MB/s and used CPU time
-   (user+system).
-
-## use_sync_send_recv
-
-- Type: boolean
-- Default: false
-
-If true, synchronous send/recv syscalls are used instead of io_uring for
-socket communication. Useless for OSDs because they require io_uring anyway,
-but may be required for clients with old kernel versions.

docs/config/network.ru.md

@@ -9,11 +9,9 @@
 Данные параметры используются клиентами и OSD и влияют на логику сетевого
 взаимодействия между клиентами, OSD, а также etcd.
 
-- [osd_network](#osd_network)
-- [osd_cluster_network](#osd_cluster_network)
+- [tcp_header_buffer_size](#tcp_header_buffer_size)
+- [use_sync_send_recv](#use_sync_send_recv)
 - [use_rdma](#use_rdma)
-- [use_rdmacm](#use_rdmacm)
-- [disable_tcp](#disable_tcp)
 - [rdma_device](#rdma_device)
 - [rdma_port_num](#rdma_port_num)
 - [rdma_gid_index](#rdma_gid_index)
@@ -32,63 +30,41 @@
 - [etcd_slow_timeout](#etcd_slow_timeout)
 - [etcd_keepalive_timeout](#etcd_keepalive_timeout)
 - [etcd_ws_keepalive_interval](#etcd_ws_keepalive_interval)
-- [etcd_min_reload_interval](#etcd_min_reload_interval)
-- [tcp_header_buffer_size](#tcp_header_buffer_size)
-- [min_zerocopy_send_size](#min_zerocopy_send_size)
-- [use_sync_send_recv](#use_sync_send_recv)
 
-## osd_network
+## tcp_header_buffer_size
 
-- Тип: строка или массив строк
+- Тип: целое число
+- Значение по умолчанию: 65536
 
-Маски подсетей (IPv4 или IPv6) публичной сети или сетей OSD. Каждый OSD слушает
-один и тот же порт на всех адресах поднятых (UP + RUNNING) сетевых интерфейсов,
-соответствующих одной из указанных сетей. Порт выбирается автоматически, если
-только [bind_port](osd.ru.md#bind_port) не задан явно. Адреса для подключений можно
-также переопределить явно, задав [bind_address](osd.ru.md#bind_address). Если сети OSD
-не заданы вообще, OSD слушает все адреса (0.0.0.0).
+Размер буфера для чтения данных с дополнительным копированием. Пакеты
+Vitastor содержат 128-байтные заголовки, за которыми следуют данные размером
+от 4 КБ и для мелких операций ввода-вывода обычно выгодно за 1 вызов читать
+сразу несколько пакетов, даже не смотря на то, что это требует лишний раз
+скопировать данные. Часть каждого пакета за пределами значения данного
+параметра читается без дополнительного копирования. Вы можете попробовать
+поменять этот параметр и посмотреть, как он влияет на производительность
+случайного и линейного доступа.
 
-## osd_cluster_network
+## use_sync_send_recv
 
-- Тип: строка или массив строк
+- Тип: булево (да/нет)
+- Значение по умолчанию: false
 
-Маски подсетей (IPv4 или IPv6) отдельной кластерной сети или сетей OSD.
-То есть, OSD будут всегда стараться использовать эти сети для соединений
-с другими OSD, а клиенты будут стараться использовать сети из [osd_network](#osd_network).
+Если установлено в истину, то вместо io_uring для передачи данных по сети
+будут использоваться обычные синхронные системные вызовы send/recv. Для OSD
+это бессмысленно, так как OSD в любом случае нуждается в io_uring, но, в
+принципе, это может применяться для клиентов со старыми версиями ядра.
 
 ## use_rdma
 
 - Тип: булево (да/нет)
 - Значение по умолчанию: true
 
-Попробовать использовать RDMA через libibverbs для связи при наличии
-доступных устройств. Отключите, если вы не хотите, чтобы Vitastor
-использовал RDMA. TCP-клиенты также могут работать с RDMA-кластером,
-так что отключать RDMA может быть нужно, только если у клиентов есть
-RDMA-устройства, но они не имеют соединения с кластером Vitastor.
-
-`use_rdma` работает с RoCEv1/RoCEv2 сетями, но не работает с iWARP и
-может не работать с частью конфигураций Infiniband, требующих RDMA-CM.
-Рассмотрите включение `use_rdmacm` для таких сетей.
-
-## use_rdmacm
-
-- Тип: булево (да/нет)
-- Значение по умолчанию: false
-
-Использовать альтернативную реализацию RDMA на основе RDMA-CM (Connection
-Manager). Работает со всеми типами RDMA-сетей: Infiniband, iWARP и
-RoCEv1/RoCEv2, и даже позволяет полностью отключить TCP и работать
-только на RDMA. OSD используют случайные номера портов для ожидания
-соединений через RDMA-CM, отличающиеся от их TCP-портов. Также при
-включении `use_rdmacm` автоматически отключается опция `use_rdma`.
-
-## disable_tcp
-
-- Тип: булево (да/нет)
-- Значение по умолчанию: true
-
-Полностью отключить TCP и использовать только RDMA-CM для соединений с OSD.
+Пытаться использовать RDMA для связи при наличии доступных устройств.
+Отключите, если вы не хотите, чтобы Vitastor использовал RDMA.
+TCP-клиенты также могут работать с RDMA-кластером, так что отключать
+RDMA может быть нужно только если у клиентов есть RDMA-устройства,
+но они не имеют соединения с кластером Vitastor.
 
 ## rdma_device
 
@@ -120,14 +96,13 @@ Control) и ECN (Explicit Congestion Notification).
 ## rdma_port_num
 
 - Тип: целое число
+- Значение по умолчанию: 1
 
 Номер порта RDMA-устройства, который следует использовать. Имеет смысл
 только для устройств, у которых более 1 порта. Чтобы узнать, сколько портов
 у вашего адаптера, посмотрите `phys_port_cnt` в выводе команды
 `ibv_devinfo -v`.
 
-Опция неприменима к RDMA-CM (use_rdmacm).
-
 ## rdma_gid_index
 
 - Тип: целое число
@@ -144,14 +119,13 @@ libibverbs < v32.
 
 Правильный rdma_gid_index для RoCEv2, как правило, 1 (IPv6) или 3 (IPv4).
 
-Опция неприменима к RDMA-CM (use_rdmacm).
-
 ## rdma_mtu
 
 - Тип: целое число
+- Значение по умолчанию: 4096
 
 Максимальная единица передачи (Path MTU) для RDMA. Должно быть равно 1024,
-2048 или 4096. По умолчанию используется значение MTU RDMA-устройства.
+2048 или 4096. Обычно нет смысла менять значение по умолчанию, равное 4096.
 
 ## rdma_max_sge
 
@@ -297,65 +271,3 @@ etcd_report_interval, чтобы keepalive гарантированно рабо
 - Можно менять на лету: да
 
 Интервал проверки живости вебсокет-подключений к etcd.
-
-## etcd_min_reload_interval
-
-- Тип: миллисекунды
-- Значение по умолчанию: 1000
-- Можно менять на лету: да
-
-Минимальный интервал полной перезагрузки состояния из etcd. Добавлено для
-предотвращения избыточной нагрузки на etcd во время отказов, когда etcd не
-успевает рассылать потоки событий и отменяет их.
-
-## tcp_header_buffer_size
-
-- Тип: целое число
-- Значение по умолчанию: 65536
-
-Размер буфера для чтения данных с дополнительным копированием. Пакеты
-Vitastor содержат 128-байтные заголовки, за которыми следуют данные размером
-от 4 КБ и для мелких операций ввода-вывода обычно выгодно за 1 вызов читать
-сразу несколько пакетов, даже не смотря на то, что это требует лишний раз
-скопировать данные. Часть каждого пакета за пределами значения данного
-параметра читается без дополнительного копирования. Вы можете попробовать
-поменять этот параметр и посмотреть, как он влияет на производительность
-случайного и линейного доступа.
-
-## min_zerocopy_send_size
-
-- Тип: целое число
-- Значение по умолчанию: 32768
-
-OSD и клиенты будут пробовать использовать TCP-отправку без копирования (zero-copy) на
-основе io_uring для буферов, больших, чем это число байт. Отправка без копирования
-поддерживается в io_uring, начиная с версии ядра Linux 6.1. Наличие поддержки
-проверяется автоматически и zero-copy отключается, когда поддержки нет. Также
-её можно отключить явно, установив данный параметр в отрицательное значение.
-
-⚠️ Внимание! Производительность данной функции может сильно отличаться на разных
-процессорах и на разных версиях ядра Linux. В целом, zero-copy обычно быстрее с
-большими сообщениями, а с мелкими (например, 4 КБ) zero-copy может быть даже
-медленнее. 32 КБ достаточно почти для всех процессоров, но для каких-то можно
-использовать даже меньшие значения. Например, для EPYC Milan/Genoa подходит 4 КБ,
-а для Xeon Ice Lake - 12 КБ (но, пожалуйста, перепроверьте это сами).
-
-Инструкция по проверке:
-1. Добавьте `iommu=pt` в командную строку загрузки вашего ядра Linux и перезагрузитесь.
-2. Обновите ядро. Например, для AMD EPYC очень важно использовать версию 6.11+.
-3. Позапускайте тесты с помощью [send-zerocopy из примеров liburing](https://github.com/axboe/liburing/blob/master/examples/send-zerocopy.c),
-   чтобы найти минимальный размер сообщения, для которого zero-copy отправка оптимальна.
-   Запускайте `./send-zerocopy tcp -4 -R` на стороне сервера и
-   `time ./send-zerocopy tcp -4 -b 0 -s РАЗМЕР_БУФЕРА -D АДРЕС_СЕРВЕРА` на стороне клиента
-   с опцией `-z 0` (обычная отправка) и `-z 1` (отправка без копирования), и сравнивайте
-   скорость в МБ/с и занятое процессорное время (user+system).
-
-## use_sync_send_recv
-
-- Тип: булево (да/нет)
-- Значение по умолчанию: false
-
-Если установлено в истину, то вместо io_uring для передачи данных по сети
-будут использоваться обычные синхронные системные вызовы send/recv. Для OSD
-это бессмысленно, так как OSD в любом случае нуждается в io_uring, но, в
-принципе, это может применяться для клиентов со старыми версиями ядра.

docs/config/osd.en.md

@@ -7,15 +7,16 @@
 # Runtime OSD Parameters
 
 These parameters only apply to OSDs, are not fixed at the moment of OSD drive
-initialization and can be changed - in /etc/vitastor/vitastor.conf or [vitastor-disk update-sb](../usage/disk.en.md#update-sb)
-with an OSD restart or, for some of them, even without restarting by updating configuration in etcd.
+initialization and can be changed - either with an OSD restart or, for some of
+them, even without restarting by updating configuration in etcd.
 
-- [bind_address](#bind_address)
-- [bind_port](#bind_port)
 - [osd_iothread_count](#osd_iothread_count)
 - [etcd_report_interval](#etcd_report_interval)
 - [etcd_stats_interval](#etcd_stats_interval)
 - [run_primary](#run_primary)
+- [osd_network](#osd_network)
+- [bind_address](#bind_address)
+- [bind_port](#bind_port)
 - [autosync_interval](#autosync_interval)
 - [autosync_writes](#autosync_writes)
 - [recovery_queue_depth](#recovery_queue_depth)
@@ -60,28 +61,6 @@ with an OSD restart or, for some of them, even without restarting by updating co
 - [recovery_tune_agg_interval](#recovery_tune_agg_interval)
 - [recovery_tune_sleep_min_us](#recovery_tune_sleep_min_us)
 - [recovery_tune_sleep_cutoff_us](#recovery_tune_sleep_cutoff_us)
-- [discard_on_start](#discard_on_start)
-- [min_discard_size](#min_discard_size)
-- [allow_net_split](#allow_net_split)
-- [enable_pg_locks](#enable_pg_locks)
-- [pg_lock_retry_interval_ms](#pg_lock_retry_interval_ms)
-
-## bind_address
-
-- Type: string or array of strings
-
-Instead of the network masks ([osd_network](network.en.md#osd_network) and
-[osd_cluster_network](network.en.md#osd_cluster_network)), you can also set
-OSD listen addresses explicitly using this parameter. May be useful if you
-want to start OSDs on interfaces that are not UP + RUNNING.
-
-## bind_port
-
-- Type: integer
-
-By default, OSDs pick random ports to use for incoming connections
-automatically. With this option you can set a specific port for a specific
-OSD by hand.
 
 ## osd_iothread_count
 
@@ -125,6 +104,34 @@ debugging purposes. It's possible to implement additional feature for the
 monitor which may allow to separate primary and secondary OSDs, but it's
 unclear why anyone could need it, so it's not implemented.
 
+## osd_network
+
+- Type: string or array of strings
+
+Network mask of the network (IPv4 or IPv6) to use for OSDs. Note that
+although it's possible to specify multiple networks here, this does not
+mean that OSDs will create multiple listening sockets - they'll only
+pick the first matching address of an UP + RUNNING interface. Separate
+networks for cluster and client connections are also not implemented, but
+they are mostly useless anyway, so it's not a big deal.
+
+## bind_address
+
+- Type: string
+- Default: 0.0.0.0
+
+Instead of the network mask, you can also set OSD listen address explicitly
+using this parameter. May be useful if you want to start OSDs on interfaces
+that are not UP + RUNNING.
+
+## bind_port
+
+- Type: integer
+
+By default, OSDs pick random ports to use for incoming connections
+automatically. With this option you can set a specific port for a specific
+OSD by hand.
+
 ## autosync_interval
 
 - Type: seconds
@@ -309,7 +316,7 @@ for hot data and slower disks - HDDs and maybe SATA SSDs - but will slightly
 decrease write performance for fast disks because page cache is an overhead
 itself.
 
-Choose "directsync" to use [immediate_commit](layout-cluster.en.md#immediate_commit)
+Choose "directsync" to use [immediate_commit](layout-cluster.ru.md#immediate_commit)
 (which requires disable_data_fsync) with drives having write-back cache
 which can't be turned off, for example, Intel Optane. Also note that *some*
 desktop SSDs (for example, HP EX950) may ignore O_SYNC thus making
@@ -491,7 +498,7 @@ Can be used to slow down scrubbing if it affects user load too much.
 ## scrub_list_limit
 
 - Type: integer
-- Default: 262144
+- Default: 1000
 - Can be changed online: yes
 
 Number of objects to list in one listing operation during scrub.
@@ -622,47 +629,3 @@ are changed to 0.
 
 Maximum possible value for auto-tuned recovery_sleep_us. Higher values
 are treated as outliers and ignored in aggregation.
-
-## discard_on_start
-
-- Type: boolean
-
-Discard (SSD TRIM) unused data device blocks on every OSD startup.
-
-## min_discard_size
-
-- Type: integer
-- Default: 1048576
-
-Minimum consecutive block size to TRIM it.
-
-## allow_net_split
-
-- Type: boolean
-- Default: false
-
-Allow "safe" cases of network splits/partitions - allow to start PGs without
-connections to some OSDs currently registered as alive in etcd, if the number
-of actually connected PG OSDs is at least pg_minsize. That is, allow some OSDs to lose
-connectivity with some other OSDs as long as it doesn't break pg_minsize guarantees.
-The downside is that it increases the probability of writing data into just pg_minsize
-OSDs during failover which can lead to PGs becoming incomplete after additional outages.
-
-The old behaviour in versions up to 2.0.0 was equal to enabled allow_net_split.
-
-## enable_pg_locks
-
-- Type: boolean
-
-Vitastor 2.2.0 introduces a new layer of split-brain prevention mechanism in
-addition to etcd: PG locks. They prevent split-brain even in abnormal theoretical cases
-when etcd is extremely laggy. As a new feature, by default, PG locks are only enabled
-for pools where they're required - pools with [localized reads](pool.en.md#local_reads).
-Use this parameter to enable or disable this function for all pools.
-
-## pg_lock_retry_interval_ms
-
-- Type: milliseconds
-- Default: 100
-
-Retry interval for failed PG lock attempts.

docs/config/osd.ru.md

@@ -8,15 +8,16 @@
 
 Данные параметры используются только OSD, но, в отличие от дисковых параметров,
 не фиксируются в момент инициализации дисков OSD и могут быть изменены в любой
-момент с перезапуском OSD в /etc/vitastor/vitastor.conf или [vitastor-disk update-sb](../usage/disk.ru.md#update-sb),
-а некоторые и без перезапуска, с помощью изменения конфигурации в etcd.
+момент с помощью перезапуска OSD, а некоторые и без перезапуска, с помощью
+изменения конфигурации в etcd.
 
-- [bind_address](#bind_address)
-- [bind_port](#bind_port)
 - [osd_iothread_count](#osd_iothread_count)
 - [etcd_report_interval](#etcd_report_interval)
 - [etcd_stats_interval](#etcd_stats_interval)
 - [run_primary](#run_primary)
+- [osd_network](#osd_network)
+- [bind_address](#bind_address)
+- [bind_port](#bind_port)
 - [autosync_interval](#autosync_interval)
 - [autosync_writes](#autosync_writes)
 - [recovery_queue_depth](#recovery_queue_depth)
@@ -61,28 +62,6 @@
 - [recovery_tune_agg_interval](#recovery_tune_agg_interval)
 - [recovery_tune_sleep_min_us](#recovery_tune_sleep_min_us)
 - [recovery_tune_sleep_cutoff_us](#recovery_tune_sleep_cutoff_us)
-- [discard_on_start](#discard_on_start)
-- [min_discard_size](#min_discard_size)
-- [allow_net_split](#allow_net_split)
-- [enable_pg_locks](#enable_pg_locks)
-- [pg_lock_retry_interval_ms](#pg_lock_retry_interval_ms)
-
-## bind_address
-
-- Тип: строка или массив строк
-
-Вместо использования масок подсети ([osd_network](network.ru.md#osd_network) и
-[osd_cluster_network](network.ru.md#osd_cluster_network)), вы также можете явно
-задать адрес(а), на которых будут ожидать соединений OSD, с помощью данного
-параметра. Это может быть полезно, например, чтобы запускать OSD на неподнятых
-интерфейсах (не UP + RUNNING).
-
-## bind_port
-
-- Тип: целое число
-
-По умолчанию OSD сами выбирают случайные порты для входящих подключений.
-С помощью данной опции вы можете задать порт для отдельного OSD вручную.
 
 ## osd_iothread_count
 
@@ -128,6 +107,34 @@ max_etcd_attempts * etcd_quick_timeout.
 первичные OSD от вторичных, но пока не понятно, зачем это может кому-то
 понадобиться, поэтому это не реализовано.
 
+## osd_network
+
+- Тип: строка или массив строк
+
+Маска подсети (IPv4 или IPv6) для использования для соединений с OSD.
+Имейте в виду, что хотя сейчас и можно передать в этот параметр несколько
+подсетей, это не означает, что OSD будут создавать несколько слушающих
+сокетов - они лишь будут выбирать адрес первого поднятого (состояние UP +
+RUNNING), подходящий под заданную маску. Также не реализовано разделение
+кластерной и публичной сетей OSD. Правда, от него обычно всё равно довольно
+мало толку, так что особенной проблемы в этом нет.
+
+## bind_address
+
+- Тип: строка
+- Значение по умолчанию: 0.0.0.0
+
+Этим параметром можно явным образом задать адрес, на котором будет ожидать
+соединений OSD (вместо использования маски подсети). Может быть полезно,
+например, чтобы запускать OSD на неподнятых интерфейсах (не UP + RUNNING).
+
+## bind_port
+
+- Тип: целое число
+
+По умолчанию OSD сами выбирают случайные порты для входящих подключений.
+С помощью данной опции вы можете задать порт для отдельного OSD вручную.
+
 ## autosync_interval
 
 - Тип: секунды
@@ -514,7 +521,7 @@ fsync небезопасным даже с режимом "directsync".
 ## scrub_list_limit
 
 - Тип: целое число
-- Значение по умолчанию: 262144
+- Значение по умолчанию: 1000
 - Можно менять на лету: да
 
 Размер загружаемых за одну операцию списков объектов в процессе фоновой
@@ -653,49 +660,3 @@ EC (кодов коррекции ошибок) с более, чем 1 диск
 Максимальное возможное значение авто-подстроенного recovery_sleep_us.
 Большие значения считаются случайными выбросами и игнорируются в
 усреднении.
-
-## discard_on_start
-
-- Тип: булево (да/нет)
-
-Освобождать (SSD TRIM) неиспользуемые блоки диска данных при каждом запуске OSD.
-
-## min_discard_size
-
-- Тип: целое число
-- Значение по умолчанию: 1048576
-
-Минимальный размер последовательного блока данных, чтобы освобождать его через TRIM.
-
-## allow_net_split
-
-- Тип: булево (да/нет)
-- Значение по умолчанию: false
-
-Разрешить "безопасные" случаи разделений сети - разрешить активировать PG без
-соединений к некоторым OSD, помеченным активными в etcd, если общее число активных
-OSD в PG составляет как минимум pg_minsize. То есть, разрешать некоторым OSD терять
-соединения с некоторыми другими OSD, если это не нарушает гарантий pg_minsize.
-Минус такого разрешения в том, что оно повышает вероятность записи данных ровно в
-pg_minsize OSD во время переключений, что может потом привести к тому, что PG станут
-неполными (incomplete), если упадут ещё какие-то OSD.
-
-Старое поведение в версиях до 2.0.0 было идентично включённому allow_net_split.
-
-## enable_pg_locks
-
-- Тип: булево (да/нет)
-
-В Vitastor 2.2.0 появился новый слой защиты от сплитбрейна в дополнение к etcd -
-блокировки PG. Они гарантируют порядок даже в теоретических ненормальных случаях,
-когда etcd очень сильно тормозит. Так как функция новая, по умолчанию она включается
-только для пулов, в которых она необходима - а именно, в пулах с включёнными
-[локальными чтениями](pool.ru.md#local_reads). Ну а с помощью данного параметра
-можно включить блокировки PG для всех пулов.
-
-## pg_lock_retry_interval_ms
-
-- Тип: миллисекунды
-- Значение по умолчанию: 100
-
-Интервал повтора неудачных попыток блокировки PG.

docs/config/pool.en.md

@@ -34,7 +34,6 @@ Parameters:
 - [failure_domain](#failure_domain)
 - [level_placement](#level_placement)
 - [raw_placement](#raw_placement)
-- [local_reads](#local_reads)
 - [max_osd_combinations](#max_osd_combinations)
 - [block_size](#block_size)
 - [bitmap_granularity](#bitmap_granularity)
@@ -44,7 +43,7 @@ Parameters:
 - [osd_tags](#osd_tags)
 - [primary_affinity_tags](#primary_affinity_tags)
 - [scrub_interval](#scrub_interval)
-- [used_for_app](#used_for_app)
+- [used_for_fs](#used_for_fs)
 
 Examples:
 
@@ -134,8 +133,8 @@ Pool name.
 ## scheme
 
 - Type: string
-- One of: "replicated", "xor", "ec" or "jerasure"
 - Required
+- One of: "replicated", "xor", "ec" or "jerasure"
 
 Redundancy scheme used for data in this pool. "jerasure" is an alias for "ec",
 both use Reed-Solomon-Vandermonde codes based on ISA-L or jerasure libraries.
@@ -190,9 +189,6 @@ So, pg_minsize regulates the number of failures that a pool can tolerate
 without temporary downtime for [osd_out_time](monitor.en.md#osd_out_time),
 but at a cost of slightly reduced storage reliability.
 
-See also [allow_net_split](osd.en.md#allow_net_split) and
-[PG state descriptions](../usage/admin.en.md#pg-states).
-
 FIXME: pg_minsize behaviour may be changed in the future to only make PGs
 read-only instead of deactivating them.
 
@@ -290,30 +286,6 @@ Examples:
 - EC 4+2 in 3 DC: `any, dc=1 host!=1, dc!=1, dc=3 host!=3, dc!=(1,3), dc=5 host!=5`
 - 1 replica in fixed DC + 2 in random DCs: `dc?=meow, dc!=1, dc!=(1,2)`
 
-## local_reads
-
-- Type: string
-- One of: "primary", "nearest" or "random"
-- Default: primary
-
-By default, Vitastor serves all read and write requests from the primary OSD of each PG.
-But it can also serve read requests for replicated pools from secondary OSDs in clean PGs
-(active or active+left_on_dead) which may be useful if you have OSDs with different network
-latency to the client - for example, if you have a cross-datacenter setup.
-
-If you set this parameter to "nearest", clients will try to read from the nearest OSD
-in the [Placement Tree](#placement-tree), i.e. from an OSD from the same host or datacenter.
-Distance to different OSDs will be calculated based on client hostname, determined
-automatically or set manually in the [hostname](client.en.md#hostname) parameter.
-
-If you set this parameter to "random", clients will try to distribute read requests over
-all available secondary OSDs. This mode is mainly useful for tests, but, probably, not
-really required in production setups.
-
-[PG locks](osd.en.md#enable_pg_locks) are required for local reads to function. However,
-PG locks are enabled automatically by default for pools with enabled local reads, so you
-don't have to enable them explicitly.
-
 ## max_osd_combinations
 
 - Type: integer
@@ -349,8 +321,7 @@ Read more about this parameter in [Cluster-Wide Disk Layout Parameters](layout-c
 
 ## immediate_commit
 
-- Type: string
-- One of: "all", "small" or "none"
+- Type: string, one of "all", "small" and "none"
 - Default: none
 
 Immediate commit setting for this pool. The value from /vitastor/config/global
@@ -406,37 +377,24 @@ of the OSDs containing a data chunk for a PG.
 Automatic scrubbing interval for this pool. Overrides
 [global scrub_interval setting](osd.en.md#scrub_interval).
 
-## used_for_app
+## used_for_fs
 
 - Type: string
 
-If non-empty, the pool is marked as used for a separate application, for example,
-VitastorFS or S3, which allocates Vitastor volume IDs by itself and does not use
-image/inode metadata in etcd.
+If non-empty, the pool is marked as used for VitastorFS with metadata stored
+in block image (regular Vitastor volume) named as the value of this pool parameter.
 
-When a pool is marked as used for such app, regular block volume creation in it
+When a pool is marked as used for VitastorFS, regular block volume creation in it
 is disabled (vitastor-cli refuses to create images without --force) to protect
-the user from block volume and FS/S3 volume ID collisions and data loss.
+the user from block volume and FS file ID collisions and data loss.
 
-Also such pools do not calculate per-inode space usage statistics in etcd because
-using it for an external application implies that it may contain a very large
-number of volumes and their statistics may take too much space in etcd.
-
-Setting used_for_app to `fs:<name>` tells Vitastor that the pool is used for VitastorFS
-with VitastorKV metadata base stored in a block image (regular Vitastor volume) named
-`<name>`.
-
-[vitastor-nfs](../usage/nfs.en.md), in its turn, refuses to use pools not marked
+[vitastor-nfs](../usage/nfs.ru.md), in its turn, refuses to use pools not marked
 for the corresponding FS when starting. This also implies that you can use one
 pool only for one VitastorFS.
 
-If you plan to use the pool for S3, set its used_for_app to `s3:<name>`. `<name>` may
-be basically anything you want (for example, `s3:standard`) - it's not validated
-by Vitastor S3 components in any way.
-
-All other values except prefixed with `fs:` or `s3:` may be used freely and don't
-mean anything special for Vitastor core components. For now, you can use them as
-you wish.
+The second thing that is disabled for VitastorFS pools is reporting per-inode space
+usage statistics in etcd because a FS pool may store a very large number of files
+and statistics for them all would take a lot of space in etcd.
 
 # Examples
 

docs/config/pool.ru.md

@@ -33,7 +33,6 @@
 - [failure_domain](#failure_domain)
 - [level_placement](#level_placement)
 - [raw_placement](#raw_placement)
-- [local_reads](#local_reads)
 - [max_osd_combinations](#max_osd_combinations)
 - [block_size](#block_size)
 - [bitmap_granularity](#bitmap_granularity)
@@ -43,7 +42,7 @@
 - [osd_tags](#osd_tags)
 - [primary_affinity_tags](#primary_affinity_tags)
 - [scrub_interval](#scrub_interval)
-- [used_for_app](#used_for_app)
+- [used_for_fs](#used_for_fs)
 
 Примеры:
 
@@ -134,8 +133,8 @@ OSD игнорируется и OSD не удаляется из распред
 ## scheme
 
 - Тип: строка
-- Возможные значения: "replicated", "xor", "ec" или "jerasure"
 - Обязательный
+- Возможные значения: "replicated", "xor", "ec" или "jerasure"
 
 Схема избыточности, используемая в данном пуле. "jerasure" - синоним для "ec",
 в обеих схемах используются коды Рида-Соломона-Вандермонда, реализованные на
@@ -257,7 +256,7 @@ PG в Vitastor эферемерны, то есть вы можете менят
 
 ## raw_placement
 
-- Тип: строка
+- Type: string
 
 Низкоуровневые правила генерации PG в форме DSL (доменно-специфичного языка).
 Используйте, только если действительно знаете, зачем вам это надо :)
@@ -288,30 +287,6 @@ meow недоступен".
 - EC 4+2 в 3 датацентрах: `any, dc=1 host!=1, dc!=1, dc=3 host!=3, dc!=(1,3), dc=5 host!=5`
 - 1 копия в фиксированном ДЦ + 2 в других ДЦ: `dc?=meow, dc!=1, dc!=(1,2)`
 
-## local_reads
-
-- Тип: строка
-- Возможные значения: "primary", "nearest" или "random"
-- По умолчанию: primary
-
-По умолчанию Vitastor обслуживает все запросы чтения и записи с первичного OSD каждой PG.
-Однако, в чистых PG (active или active+left_on_dead) реплицированных пулов также есть
-возможность обслуживать запросы чтения с вторичных OSD, что может быть полезно, если
-у вас сильно отличается время сетевого обращения от клиента к разным OSD - например,
-если у вас несколько дата-центров.
-
-Если данный параметр установлен в значение "nearest", клиенты будут стараться читать с
-ближайших по [Дереву размещения](#дерево-размещения) OSD, то есть, с OSD с того же хоста
-или датацентра. Расстояние до разных OSD будет рассчитываться с помощью имени хоста клиента,
-определяемого автоматически или заданного вручную параметром [hostname](client.ru.md#hostname).
-
-Если данный параметр установлен в значение "random", клиенты будут стараться распределять
-запросы чтения по всем доступным вторичным OSD. Этот режим в основном полезен для тестов,
-но, скорее всего, редко нужен в реальных инсталляциях.
-
-Для работы локальных чтений требуются [блокировки PG](osd.ru.md#enable_pg_locks). Включать
-их явно не нужно - они включаются автоматически для пулов с включёнными локальными чтениями.
-
 ## max_osd_combinations
 
 - Тип: целое число
@@ -349,8 +324,7 @@ meow недоступен".
 
 ## immediate_commit
 
-- Тип: строка
-- Возможные значения: "all", "small" или "none"
+- Тип: строка "all", "small" или "none"
 - По умолчанию: none
 
 Настройка мгновенного коммита для данного пула. Если не задана, используется
@@ -409,42 +383,26 @@ OSD с "all".
 Интервал скраба, то есть, автоматической фоновой проверки данных для данного пула.
 Переопределяет [глобальную настройку scrub_interval](osd.ru.md#scrub_interval).
 
-## used_for_app
+## used_for_fs
 
-- Тип: строка
+- Type: string
 
-Если непусто, пул помечается как используемый для отдельного приложения, например,
-для VitastorFS или S3, которое распределяет ID образов в пуле само и не использует
-метаданные образов/инодов в etcd.
+Если непусто, пул помечается как используемый для файловой системы VitastorFS с
+метаданными, хранимыми в блочном образе Vitastor с именем, равным значению
+этого параметра.
 
-Когда пул помечается используемым для такого приложения, создание обычных блочных
-образов в нём запрещается (vitastor-cli отказывается создавать образы без --force),
-чтобы защитить пользователя от коллизий ID блочных образов и томов ФС/S3, и,
-таким образом, от потери данных.
-
-Также для таких пулов отключается передача статистики в etcd по отдельным инодам,
-так как использование для внешнего приложения подразумевает, что пул может содержать
-очень много томов и их статистика может занять слишком много места в etcd.
-
-Установка used_for_app в значение `fs:<name>` сообщает о том, что пул используется
-для VitastorFS с базой метаданных VitastorKV, хранимой в блочном образе с именем
-`<name>`.
+Когда пул помечается как используемый для VitastorFS, создание обычных блочных
+образов в нём отключается (vitastor-cli отказывается создавать образы без --force),
+чтобы защитить пользователя от коллизий ID файлов и блочных образов и, таким
+образом, от потери данных.
 
 [vitastor-nfs](../usage/nfs.ru.md), в свою очередь, при запуске отказывается
-использовать для ФС пулы, не помеченные, как используемые для неё. Это также
-означает, что один пул может использоваться только для одной VitastorFS.
+использовать для ФС пулы, не выделенные для неё. Это также означает, что один
+пул может использоваться только для одной VitastorFS.
 
-Если же вы планируете использовать пул для данных S3, установите его used_for_app
-в значение `s3:<name>`, где `<name>` - любое название по вашему усмотрению
-(например, `s3:standard`) - конкретное содержимое `<name>` пока никак не проверяется
-компонентами Vitastor S3.
-
-Смотрите также [allow_net_split](osd.ru.md#allow_net_split) и
-[документацию по состояниям PG](../usage/admin.ru.md#состояния-pg).
-
-Все остальные значения used_for_app, кроме начинающихся на `fs:` или `s3:`, не
-означают ничего особенного для основных компонентов Vitastor. Поэтому сейчас вы
-можете использовать их свободно любым желаемым способом.
+Также для ФС-пулов отключается передача статистики в etcd по отдельным инодам,
+так как ФС-пул может содержать очень много файлов и статистика по ним всем
+заняла бы очень много места в etcd.
 
 # Примеры
 

docs/config/src/client.yml

@@ -271,48 +271,3 @@
     заполненные на 100% OSD вообще не могут стартовать), так что вы сможете
     восстановить работу кластера после ошибок отсутствия свободного места
     без уничтожения и пересоздания OSD.
-- name: hostname
-  type: string
-  online: true
-  info: |
-    Clients use host name to find their distance to OSDs when [localized reads](pool.en.md#local_reads)
-    are enabled. By default, standard [gethostname](https://man7.org/linux/man-pages/man2/gethostname.2.html)
-    function is used to determine host name, but you can also override it with this parameter.
-  info_ru: |
-    Клиенты используют имя хоста для определения расстояния до OSD, когда включены
-    [локальные чтения](pool.ru.md#local_reads). По умолчанию для определения имени
-    хоста используется стандартная функция [gethostname](https://man7.org/linux/man-pages/man2/gethostname.2.html),
-    но вы также можете задать имя хоста вручную данным параметром.
-- name: ublk_queue_depth
-  type: int
-  default: 256
-  online: false
-  info: Default queue depth for [Vitastor ublk servers](../usage/ublk.en.md).
-  info_ru: Глубина очереди по умолчанию для [ublk-серверов Vitastor](../usage/ublk.ru.md).
-- name: ublk_max_io_size
-  type: int
-  online: false
-  info: |
-    Default maximum I/O size for Vitastor [ublk servers](../usage/ublk.en.md).
-    The largest of 1 MB and pool block size multiplied by EC data chunk count is used if not specified.
-  info_ru: |
-    Максимальный размер запроса ввода-вывода для [ublk-серверов Vitastor](../usage/ublk.ru.md).
-    Если не задан, используется максимум из 1 МБ и размера блока пула, умноженного на число частей
-    данных EC-пула.
-- name: qemu_file_mirror_path
-  type: string
-  info: |
-    When set to an FS directory path (for example, `/mnt/vitastor/`), `qemu-img info` and similar
-    QAPI commands return the name of the image inside this directory instead of normal
-    `vitastor://?image=abc` URI as `filename`.
-
-    This allows to then mount this path using [vitastor-nfs](../usage/nfs.en.md) and trick
-    third-party systems like Veeam which rely on `filename` in the image info but don't support Vitastor.
-  info_ru: |
-    Если установить эту опцию равной пути к каталогу в ФС, команда `qemu-img info` и подобные
-    команды QAPI будут возвращать в поле `filename` имя образа внутри заданного каталога вместо
-    обычного адреса типа `vitastor://?image=abc`.
-
-    Это позволяет смонтировать этот путь с помощью [vitastor-nfs](../usage/nfs.ru.md) и обмануть
-    сторонние системы типа Veeam, которые полагаются на поле `filename` в информации об образе QEMU,
-    но не поддерживают Vitastor.

docs/config/src/included.en.md

@@ -24,8 +24,6 @@
 
 {{../../installation/kubernetes.en.md}}
 
-{{../../installation/s3.en.md}}
-
 {{../../installation/source.en.md}}
 
 {{../../config.en.md|indent=1}}
@@ -56,8 +54,6 @@
 
 {{../../usage/fio.en.md}}
 
-{{../../usage/ublk.en.md}}
-
 {{../../usage/nbd.en.md}}
 
 {{../../usage/qemu.en.md}}

docs/config/src/included.ru.md

@@ -26,8 +26,6 @@
 
 {{../../installation/source.ru.md}}
 
-{{../../installation/s3.ru.md}}
-
 {{../../config.ru.md|indent=1}}
 
 {{../../config/common.ru.md|indent=2}}
@@ -56,8 +54,6 @@
 
 {{../../usage/fio.ru.md}}
 
-{{../../usage/ublk.ru.md}}
-
 {{../../usage/nbd.ru.md}}
 
 {{../../usage/qemu.ru.md}}

docs/config/src/monitor.yml

@@ -75,11 +75,11 @@
 - name: mon_http_port
   type: int
   default: 8060
-  info: HTTP port for monitors to listen to (including metrics exporter)
+  info: HTTP port for monitors to listen on (including metrics exporter)
   info_ru: Порт, на котором мониторы принимают HTTP-соединения (в том числе для отдачи метрик)
 - name: mon_http_ip
   type: string
-  info: IP address for monitors to listen to (all addresses by default)
+  info: IP address for monitors to listen on (all addresses by default)
   info_ru: IP-адрес, на котором мониторы принимают HTTP-соединения (по умолчанию все адреса)
 - name: mon_https_cert
   type: string

docs/config/src/network.yml

@@ -1,78 +1,49 @@
-- name: osd_network
-  type: string or array of strings
-  type_ru: строка или массив строк
+- name: tcp_header_buffer_size
+  type: int
+  default: 65536
   info: |
-    Network mask of public OSD network(s) (IPv4 or IPv6). Each OSD listens to all
-    addresses of UP + RUNNING interfaces matching one of these networks, on the
-    same port. Port is auto-selected except if [bind_port](osd.en.md#bind_port) is
-    explicitly specified. Bind address(es) may also be overridden manually by
-    specifying [bind_address](osd.en.md#bind_address). If OSD networks are not specified
-    at all, OSD just listens to a wildcard address (0.0.0.0).
+    Size of the buffer used to read data using an additional copy. Vitastor
+    packet headers are 128 bytes, payload is always at least 4 KB, so it is
+    usually beneficial to try to read multiple packets at once even though
+    it requires to copy the data an additional time. The rest of each packet
+    is received without an additional copy. You can try to play with this
+    parameter and see how it affects random iops and linear bandwidth if you
+    want.
   info_ru: |
-    Маски подсетей (IPv4 или IPv6) публичной сети или сетей OSD. Каждый OSD слушает
-    один и тот же порт на всех адресах поднятых (UP + RUNNING) сетевых интерфейсов,
-    соответствующих одной из указанных сетей. Порт выбирается автоматически, если
-    только [bind_port](osd.ru.md#bind_port) не задан явно. Адреса для подключений можно
-    также переопределить явно, задав [bind_address](osd.ru.md#bind_address). Если сети OSD
-    не заданы вообще, OSD слушает все адреса (0.0.0.0).
-- name: osd_cluster_network
-  type: string or array of strings
-  type_ru: строка или массив строк
+    Размер буфера для чтения данных с дополнительным копированием. Пакеты
+    Vitastor содержат 128-байтные заголовки, за которыми следуют данные размером
+    от 4 КБ и для мелких операций ввода-вывода обычно выгодно за 1 вызов читать
+    сразу несколько пакетов, даже не смотря на то, что это требует лишний раз
+    скопировать данные. Часть каждого пакета за пределами значения данного
+    параметра читается без дополнительного копирования. Вы можете попробовать
+    поменять этот параметр и посмотреть, как он влияет на производительность
+    случайного и линейного доступа.
+- name: use_sync_send_recv
+  type: bool
+  default: false
   info: |
-    Network mask of separate network(s) (IPv4 or IPv6) to use for OSD
-    cluster connections. I.e. OSDs will always attempt to use these networks
-    to connect to other OSDs, while clients will attempt to use networks from
-    [osd_network](#osd_network).
+    If true, synchronous send/recv syscalls are used instead of io_uring for
+    socket communication. Useless for OSDs because they require io_uring anyway,
+    but may be required for clients with old kernel versions.
   info_ru: |
-    Маски подсетей (IPv4 или IPv6) отдельной кластерной сети или сетей OSD.
-    То есть, OSD будут всегда стараться использовать эти сети для соединений
-    с другими OSD, а клиенты будут стараться использовать сети из [osd_network](#osd_network).
+    Если установлено в истину, то вместо io_uring для передачи данных по сети
+    будут использоваться обычные синхронные системные вызовы send/recv. Для OSD
+    это бессмысленно, так как OSD в любом случае нуждается в io_uring, но, в
+    принципе, это может применяться для клиентов со старыми версиями ядра.
 - name: use_rdma
   type: bool
   default: true
   info: |
-    Try to use RDMA through libibverbs for communication if it's available.
-    Disable if you don't want Vitastor to use RDMA. TCP-only clients can also
-    talk to an RDMA-enabled cluster, so disabling RDMA may be needed if clients
-    have RDMA devices, but they are not connected to the cluster.
-
-    `use_rdma` works with RoCEv1/RoCEv2 networks, but not with iWARP and,
-    maybe, with some Infiniband configurations which require RDMA-CM.
-    Consider `use_rdmacm` for such networks.
+    Try to use RDMA for communication if it's available. Disable if you don't
+    want Vitastor to use RDMA. TCP-only clients can also talk to an RDMA-enabled
+    cluster, so disabling RDMA may be needed if clients have RDMA devices,
+    but they are not connected to the cluster.
   info_ru: |
-    Попробовать использовать RDMA через libibverbs для связи при наличии
-    доступных устройств. Отключите, если вы не хотите, чтобы Vitastor
-    использовал RDMA. TCP-клиенты также могут работать с RDMA-кластером,
-    так что отключать RDMA может быть нужно, только если у клиентов есть
-    RDMA-устройства, но они не имеют соединения с кластером Vitastor.
-
-    `use_rdma` работает с RoCEv1/RoCEv2 сетями, но не работает с iWARP и
-    может не работать с частью конфигураций Infiniband, требующих RDMA-CM.
-    Рассмотрите включение `use_rdmacm` для таких сетей.
-- name: use_rdmacm
-  type: bool
-  default: false
-  info: |
-    Use an alternative implementation of RDMA through RDMA-CM (Connection
-    Manager). Works with all RDMA networks: Infiniband, iWARP and
-    RoCEv1/RoCEv2, and even allows to disable TCP and run only with RDMA.
-    OSDs always use random port numbers for RDMA-CM listeners, different
-    from their TCP ports. `use_rdma` is automatically disabled when
-    `use_rdmacm` is enabled.
-  info_ru: |
-    Использовать альтернативную реализацию RDMA на основе RDMA-CM (Connection
-    Manager). Работает со всеми типами RDMA-сетей: Infiniband, iWARP и
-    RoCEv1/RoCEv2, и даже позволяет полностью отключить TCP и работать
-    только на RDMA. OSD используют случайные номера портов для ожидания
-    соединений через RDMA-CM, отличающиеся от их TCP-портов. Также при
-    включении `use_rdmacm` автоматически отключается опция `use_rdma`.
-- name: disable_tcp
-  type: bool
-  default: true
-  info: |
-    Fully disable TCP and only use RDMA-CM for OSD communication.
-  info_ru: |
-    Полностью отключить TCP и использовать только RDMA-CM для соединений с OSD.
+    Пытаться использовать RDMA для связи при наличии доступных устройств.
+    Отключите, если вы не хотите, чтобы Vitastor использовал RDMA.
+    TCP-клиенты также могут работать с RDMA-кластером, так что отключать
+    RDMA может быть нужно только если у клиентов есть RDMA-устройства,
+    но они не имеют соединения с кластером Vitastor.
 - name: rdma_device
   type: string
   info: |
@@ -122,19 +93,16 @@
     Control) и ECN (Explicit Congestion Notification).
 - name: rdma_port_num
   type: int
+  default: 1
   info: |
     RDMA device port number to use. Only for devices that have more than 1 port.
     See `phys_port_cnt` in `ibv_devinfo -v` output to determine how many ports
     your device has.
-
-    Not relevant for RDMA-CM (use_rdmacm).
   info_ru: |
     Номер порта RDMA-устройства, который следует использовать. Имеет смысл
     только для устройств, у которых более 1 порта. Чтобы узнать, сколько портов
     у вашего адаптера, посмотрите `phys_port_cnt` в выводе команды
     `ibv_devinfo -v`.
-
-    Опция неприменима к RDMA-CM (use_rdmacm).
 - name: rdma_gid_index
   type: int
   info: |
@@ -148,8 +116,6 @@
     GID auto-selection is unsupported with libibverbs < v32.
 
     A correct rdma_gid_index for RoCEv2 is usually 1 (IPv6) or 3 (IPv4).
-
-    Not relevant for RDMA-CM (use_rdmacm).
   info_ru: |
     Номер глобального идентификатора адреса RDMA-устройства, который следует
     использовать. Разным gid_index могут соответствовать разные протоколы связи:
@@ -162,16 +128,15 @@
     libibverbs < v32.
 
     Правильный rdma_gid_index для RoCEv2, как правило, 1 (IPv6) или 3 (IPv4).
-
-    Опция неприменима к RDMA-CM (use_rdmacm).
 - name: rdma_mtu
   type: int
+  default: 4096
   info: |
-    RDMA Path MTU to use. Must be 1024, 2048 or 4096. Default is to use the
-    RDMA device's MTU.
+    RDMA Path MTU to use. Must be 1024, 2048 or 4096. There is usually no
+    sense to change it from the default 4096.
   info_ru: |
     Максимальная единица передачи (Path MTU) для RDMA. Должно быть равно 1024,
-    2048 или 4096. По умолчанию используется значение MTU RDMA-устройства.
+    2048 или 4096. Обычно нет смысла менять значение по умолчанию, равное 4096.
 - name: rdma_max_sge
   type: int
   default: 128
@@ -341,96 +306,3 @@
     detect disconnections quickly.
   info_ru: |
     Интервал проверки живости вебсокет-подключений к etcd.
-- name: etcd_min_reload_interval
-  type: ms
-  default: 1000
-  online: true
-  info: |
-    Minimum interval for full etcd state reload. Introduced to prevent
-    excessive load on etcd during outages when etcd can't keep up with event
-    streams and cancels them.
-  info_ru: |
-    Минимальный интервал полной перезагрузки состояния из etcd. Добавлено для
-    предотвращения избыточной нагрузки на etcd во время отказов, когда etcd не
-    успевает рассылать потоки событий и отменяет их.
-- name: tcp_header_buffer_size
-  type: int
-  default: 65536
-  info: |
-    Size of the buffer used to read data using an additional copy. Vitastor
-    packet headers are 128 bytes, payload is always at least 4 KB, so it is
-    usually beneficial to try to read multiple packets at once even though
-    it requires to copy the data an additional time. The rest of each packet
-    is received without an additional copy. You can try to play with this
-    parameter and see how it affects random iops and linear bandwidth if you
-    want.
-  info_ru: |
-    Размер буфера для чтения данных с дополнительным копированием. Пакеты
-    Vitastor содержат 128-байтные заголовки, за которыми следуют данные размером
-    от 4 КБ и для мелких операций ввода-вывода обычно выгодно за 1 вызов читать
-    сразу несколько пакетов, даже не смотря на то, что это требует лишний раз
-    скопировать данные. Часть каждого пакета за пределами значения данного
-    параметра читается без дополнительного копирования. Вы можете попробовать
-    поменять этот параметр и посмотреть, как он влияет на производительность
-    случайного и линейного доступа.
-- name: min_zerocopy_send_size
-  type: int
-  default: 32768
-  info: |
-    OSDs and clients will attempt to use io_uring-based zero-copy TCP send
-    for buffers larger than this number of bytes. Zero-copy send with io_uring is
-    supported since Linux kernel version 6.1. Support is auto-detected and disabled
-    automatically when not available. It can also be disabled explicitly by setting
-    this parameter to a negative value.
-
-    ⚠️ Warning! Zero-copy send performance may vary greatly from CPU to CPU and from
-    one kernel version to another. Generally, it tends to only make benefit with larger
-    messages. With smaller messages (say, 4 KB), it may actually be slower. 32 KB is
-    enough for almost all CPUs, but even smaller values are optimal for some of them.
-    For example, 4 KB is OK for EPYC Milan/Genoa and 12 KB is OK for Xeon Ice Lake
-    (but verify it yourself please).
-
-    Verification instructions:
-    1. Add `iommu=pt` into your Linux kernel command line and reboot.
-    2. Upgrade your kernel. For example, it's very important to use 6.11+ with recent AMD EPYCs.
-    3. Run some tests with the [send-zerocopy liburing example](https://github.com/axboe/liburing/blob/master/examples/send-zerocopy.c)
-       to find the minimal message size for which zero-copy is optimal.
-       Use `./send-zerocopy tcp -4 -R` at the server side and
-       `time ./send-zerocopy tcp -4 -b 0 -s BUFFER_SIZE -D SERVER_IP` at the client side with
-       `-z 0` (no zero-copy) and `-z 1` (zero-copy), and compare MB/s and used CPU time
-       (user+system).
-  info_ru: |
-    OSD и клиенты будут пробовать использовать TCP-отправку без копирования (zero-copy) на
-    основе io_uring для буферов, больших, чем это число байт. Отправка без копирования
-    поддерживается в io_uring, начиная с версии ядра Linux 6.1. Наличие поддержки
-    проверяется автоматически и zero-copy отключается, когда поддержки нет. Также
-    её можно отключить явно, установив данный параметр в отрицательное значение.
-
-    ⚠️ Внимание! Производительность данной функции может сильно отличаться на разных
-    процессорах и на разных версиях ядра Linux. В целом, zero-copy обычно быстрее с
-    большими сообщениями, а с мелкими (например, 4 КБ) zero-copy может быть даже
-    медленнее. 32 КБ достаточно почти для всех процессоров, но для каких-то можно
-    использовать даже меньшие значения. Например, для EPYC Milan/Genoa подходит 4 КБ,
-    а для Xeon Ice Lake - 12 КБ (но, пожалуйста, перепроверьте это сами).
-
-    Инструкция по проверке:
-    1. Добавьте `iommu=pt` в командную строку загрузки вашего ядра Linux и перезагрузитесь.
-    2. Обновите ядро. Например, для AMD EPYC очень важно использовать версию 6.11+.
-    3. Позапускайте тесты с помощью [send-zerocopy из примеров liburing](https://github.com/axboe/liburing/blob/master/examples/send-zerocopy.c),
-       чтобы найти минимальный размер сообщения, для которого zero-copy отправка оптимальна.
-       Запускайте `./send-zerocopy tcp -4 -R` на стороне сервера и
-       `time ./send-zerocopy tcp -4 -b 0 -s РАЗМЕР_БУФЕРА -D АДРЕС_СЕРВЕРА` на стороне клиента
-       с опцией `-z 0` (обычная отправка) и `-z 1` (отправка без копирования), и сравнивайте
-       скорость в МБ/с и занятое процессорное время (user+system).
-- name: use_sync_send_recv
-  type: bool
-  default: false
-  info: |
-    If true, synchronous send/recv syscalls are used instead of io_uring for
-    socket communication. Useless for OSDs because they require io_uring anyway,
-    but may be required for clients with old kernel versions.
-  info_ru: |
-    Если установлено в истину, то вместо io_uring для передачи данных по сети
-    будут использоваться обычные синхронные системные вызовы send/recv. Для OSD
-    это бессмысленно, так как OSD в любом случае нуждается в io_uring, но, в
-    принципе, это может применяться для клиентов со старыми версиями ядра.

docs/config/src/osd.en.md

@@ -1,5 +1,5 @@
 # Runtime OSD Parameters
 
 These parameters only apply to OSDs, are not fixed at the moment of OSD drive
-initialization and can be changed - in /etc/vitastor/vitastor.conf or [vitastor-disk update-sb](../usage/disk.en.md#update-sb)
-with an OSD restart or, for some of them, even without restarting by updating configuration in etcd.
+initialization and can be changed - either with an OSD restart or, for some of
+them, even without restarting by updating configuration in etcd.

docs/config/src/osd.ru.md

@@ -2,5 +2,5 @@
 
 Данные параметры используются только OSD, но, в отличие от дисковых параметров,
 не фиксируются в момент инициализации дисков OSD и могут быть изменены в любой
-момент с перезапуском OSD в /etc/vitastor/vitastor.conf или [vitastor-disk update-sb](../usage/disk.ru.md#update-sb),
-а некоторые и без перезапуска, с помощью изменения конфигурации в etcd.
+момент с помощью перезапуска OSD, а некоторые и без перезапуска, с помощью
+изменения конфигурации в etcd.

docs/config/src/osd.yml

@@ -1,26 +1,3 @@
-- name: bind_address
-  type: string or array of strings
-  type_ru: строка или массив строк
-  info: |
-    Instead of the network masks ([osd_network](network.en.md#osd_network) and
-    [osd_cluster_network](network.en.md#osd_cluster_network)), you can also set
-    OSD listen addresses explicitly using this parameter. May be useful if you
-    want to start OSDs on interfaces that are not UP + RUNNING.
-  info_ru: |
-    Вместо использования масок подсети ([osd_network](network.ru.md#osd_network) и
-    [osd_cluster_network](network.ru.md#osd_cluster_network)), вы также можете явно
-    задать адрес(а), на которых будут ожидать соединений OSD, с помощью данного
-    параметра. Это может быть полезно, например, чтобы запускать OSD на неподнятых
-    интерфейсах (не UP + RUNNING).
-- name: bind_port
-  type: int
-  info: |
-    By default, OSDs pick random ports to use for incoming connections
-    automatically. With this option you can set a specific port for a specific
-    OSD by hand.
-  info_ru: |
-    По умолчанию OSD сами выбирают случайные порты для входящих подключений.
-    С помощью данной опции вы можете задать порт для отдельного OSD вручную.
 - name: osd_iothread_count
   type: int
   default: 0
@@ -79,6 +56,44 @@
     реализовать дополнительный режим для монитора, который позволит отделять
     первичные OSD от вторичных, но пока не понятно, зачем это может кому-то
     понадобиться, поэтому это не реализовано.
+- name: osd_network
+  type: string or array of strings
+  type_ru: строка или массив строк
+  info: |
+    Network mask of the network (IPv4 or IPv6) to use for OSDs. Note that
+    although it's possible to specify multiple networks here, this does not
+    mean that OSDs will create multiple listening sockets - they'll only
+    pick the first matching address of an UP + RUNNING interface. Separate
+    networks for cluster and client connections are also not implemented, but
+    they are mostly useless anyway, so it's not a big deal.
+  info_ru: |
+    Маска подсети (IPv4 или IPv6) для использования для соединений с OSD.
+    Имейте в виду, что хотя сейчас и можно передать в этот параметр несколько
+    подсетей, это не означает, что OSD будут создавать несколько слушающих
+    сокетов - они лишь будут выбирать адрес первого поднятого (состояние UP +
+    RUNNING), подходящий под заданную маску. Также не реализовано разделение
+    кластерной и публичной сетей OSD. Правда, от него обычно всё равно довольно
+    мало толку, так что особенной проблемы в этом нет.
+- name: bind_address
+  type: string
+  default: "0.0.0.0"
+  info: |
+    Instead of the network mask, you can also set OSD listen address explicitly
+    using this parameter. May be useful if you want to start OSDs on interfaces
+    that are not UP + RUNNING.
+  info_ru: |
+    Этим параметром можно явным образом задать адрес, на котором будет ожидать
+    соединений OSD (вместо использования маски подсети). Может быть полезно,
+    например, чтобы запускать OSD на неподнятых интерфейсах (не UP + RUNNING).
+- name: bind_port
+  type: int
+  info: |
+    By default, OSDs pick random ports to use for incoming connections
+    automatically. With this option you can set a specific port for a specific
+    OSD by hand.
+  info_ru: |
+    По умолчанию OSD сами выбирают случайные порты для входящих подключений.
+    С помощью данной опции вы можете задать порт для отдельного OSD вручную.
 - name: autosync_interval
   type: sec
   default: 5
@@ -300,7 +315,7 @@
     decrease write performance for fast disks because page cache is an overhead
     itself.
 
-    Choose "directsync" to use [immediate_commit](layout-cluster.en.md#immediate_commit)
+    Choose "directsync" to use [immediate_commit](layout-cluster.ru.md#immediate_commit)
     (which requires disable_data_fsync) with drives having write-back cache
     which can't be turned off, for example, Intel Optane. Also note that *some*
     desktop SSDs (for example, HP EX950) may ignore O_SYNC thus making
@@ -566,7 +581,7 @@
     сильно влияет на пользовательскую нагрузку.
 - name: scrub_list_limit
   type: int
-  default: 262144
+  default: 1000
   online: true
   info: |
     Number of objects to list in one listing operation during scrub.
@@ -750,54 +765,3 @@
     Максимальное возможное значение авто-подстроенного recovery_sleep_us.
     Большие значения считаются случайными выбросами и игнорируются в
     усреднении.
-- name: discard_on_start
-  type: bool
-  info: Discard (SSD TRIM) unused data device blocks on every OSD startup.
-  info_ru: Освобождать (SSD TRIM) неиспользуемые блоки диска данных при каждом запуске OSD.
-- name: min_discard_size
-  type: int
-  default: 1048576
-  info: Minimum consecutive block size to TRIM it.
-  info_ru: Минимальный размер последовательного блока данных, чтобы освобождать его через TRIM.
-- name: allow_net_split
-  type: bool
-  default: false
-  info: |
-    Allow "safe" cases of network splits/partitions - allow to start PGs without
-    connections to some OSDs currently registered as alive in etcd, if the number
-    of actually connected PG OSDs is at least pg_minsize. That is, allow some OSDs to lose
-    connectivity with some other OSDs as long as it doesn't break pg_minsize guarantees.
-    The downside is that it increases the probability of writing data into just pg_minsize
-    OSDs during failover which can lead to PGs becoming incomplete after additional outages.
-
-    The old behaviour in versions up to 2.0.0 was equal to enabled allow_net_split.
-  info_ru: |
-    Разрешить "безопасные" случаи разделений сети - разрешить активировать PG без
-    соединений к некоторым OSD, помеченным активными в etcd, если общее число активных
-    OSD в PG составляет как минимум pg_minsize. То есть, разрешать некоторым OSD терять
-    соединения с некоторыми другими OSD, если это не нарушает гарантий pg_minsize.
-    Минус такого разрешения в том, что оно повышает вероятность записи данных ровно в
-    pg_minsize OSD во время переключений, что может потом привести к тому, что PG станут
-    неполными (incomplete), если упадут ещё какие-то OSD.
-
-    Старое поведение в версиях до 2.0.0 было идентично включённому allow_net_split.
-- name: enable_pg_locks
-  type: bool
-  info: |
-    Vitastor 2.2.0 introduces a new layer of split-brain prevention mechanism in
-    addition to etcd: PG locks. They prevent split-brain even in abnormal theoretical cases
-    when etcd is extremely laggy. As a new feature, by default, PG locks are only enabled
-    for pools where they're required - pools with [localized reads](pool.en.md#local_reads).
-    Use this parameter to enable or disable this function for all pools.
-  info_ru: |
-    В Vitastor 2.2.0 появился новый слой защиты от сплитбрейна в дополнение к etcd -
-    блокировки PG. Они гарантируют порядок даже в теоретических ненормальных случаях,
-    когда etcd очень сильно тормозит. Так как функция новая, по умолчанию она включается
-    только для пулов, в которых она необходима - а именно, в пулах с включёнными
-    [локальными чтениями](pool.ru.md#local_reads). Ну а с помощью данного параметра
-    можно включить блокировки PG для всех пулов.
-- name: pg_lock_retry_interval_ms
-  type: ms
-  default: 100
-  info: Retry interval for failed PG lock attempts.
-  info_ru: Интервал повтора неудачных попыток блокировки PG.

docs/installation/docker.en.md

@@ -26,9 +26,9 @@ at Vitastor Kubernetes operator: https://github.com/Antilles7227/vitastor-operat
 The instruction is very simple.
 
 1. Download a Docker image of the desired version: \
-   `docker pull vitalif/vitastor:v2.3.0`
+   `docker pull vitastor:1.10.2`
 2. Install scripts to the host system: \
-   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitalif/vitastor:v2.3.0 install.sh`
+   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitastor:1.10.2 install.sh`
 3. Reload udev rules: \
    `udevadm control --reload-rules`
 

docs/installation/docker.ru.md

@@ -25,9 +25,9 @@ Vitastor можно установить в Docker/Podman. При этом etcd,
 Инструкция по установке максимально простая.
 
 1. Скачайте Docker-образ желаемой версии: \
-   `docker pull vitalif/vitastor:v2.3.0`
+   `docker pull vitastor:1.10.2`
 2. Установите скрипты в хост-систему командой: \
-   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitalif/vitastor:v2.3.0 install.sh`
+   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitastor:1.10.2 install.sh`
 3. Перезагрузите правила udev: \
    `udevadm control --reload-rules`
 

docs/installation/packages.en.md

@@ -11,20 +11,12 @@
 - Trust Vitastor package signing key:
   `wget https://vitastor.io/debian/pubkey.gpg -O /etc/apt/trusted.gpg.d/vitastor.gpg`
 - Add Vitastor package repository to your /etc/apt/sources.list:
-  - Debian 13 (Trixie/Sid): `deb https://vitastor.io/debian trixie main`
-  - Debian 12 (Bookworm): `deb https://vitastor.io/debian bookworm main`
+  - Debian 12 (Bookworm/Sid): `deb https://vitastor.io/debian bookworm main`
   - Debian 11 (Bullseye): `deb https://vitastor.io/debian bullseye main`
   - Debian 10 (Buster): `deb https://vitastor.io/debian buster main`
   - Ubuntu 22.04 (Jammy): `deb https://vitastor.io/debian jammy main`
-  - Ubuntu 24.04 (Noble): `deb https://vitastor.io/debian noble main`
   - Add `-oldstable` to bookworm/bullseye/buster in this line to install the last
     stable version from 0.9.x branch instead of 1.x
-- To always prefer vitastor-patched QEMU and Libvirt versions, add the following to `/etc/apt/preferences`:
-  ```
-  Package: *
-  Pin: origin "vitastor.io"
-  Pin-Priority: 501
-  ```
 - Install packages: `apt update; apt install vitastor lp-solve etcd linux-image-amd64 qemu-system-x86`
 
 ## CentOS
@@ -50,6 +42,7 @@
   recommended because io_uring is a relatively new technology and there is
   at least one bug which reproduces with io_uring and HP SmartArray
   controllers in 5.4
+- liburing 0.4 or newer
 - lp_solve
 - etcd 3.4.15 or newer. Earlier versions won't work because of various bugs,
   for example [#12402](https://github.com/etcd-io/etcd/pull/12402).

docs/installation/packages.ru.md

@@ -11,20 +11,12 @@
 - Добавьте ключ репозитория Vitastor:
   `wget https://vitastor.io/debian/pubkey.gpg -O /etc/apt/trusted.gpg.d/vitastor.gpg`
 - Добавьте репозиторий Vitastor в /etc/apt/sources.list:
-  - Debian 13 (Trixie/Sid): `deb https://vitastor.io/debian trixie main`
-  - Debian 12 (Bookworm): `deb https://vitastor.io/debian bookworm main`
+  - Debian 12 (Bookworm/Sid): `deb https://vitastor.io/debian bookworm main`
   - Debian 11 (Bullseye): `deb https://vitastor.io/debian bullseye main`
   - Debian 10 (Buster): `deb https://vitastor.io/debian buster main`
   - Ubuntu 22.04 (Jammy): `deb https://vitastor.io/debian jammy main`
-  - Ubuntu 24.04 (Noble): `deb https://vitastor.io/debian noble main`
   - Добавьте `-oldstable` к слову bookworm/bullseye/buster в этой строке, чтобы
     установить последнюю стабильную версию из ветки 0.9.x вместо 1.x
-- Чтобы всегда предпочитались версии пакетов QEMU и Libvirt с патчами Vitastor, добавьте в `/etc/apt/preferences`:
-  ```
-  Package: *
-  Pin: origin "vitastor.io"
-  Pin-Priority: 501
-  ```
 - Установите пакеты: `apt update; apt install vitastor lp-solve etcd linux-image-amd64 qemu-system-x86`
 
 ## CentOS
@@ -49,6 +41,7 @@
 - Ядро Linux 5.4 или новее, для поддержки io_uring. Рекомендуется даже 5.8,
   так как io_uring - относительно новый интерфейс и в версиях до 5.8 встречались
   некоторые баги, например, зависание с io_uring и контроллером HP SmartArray
+- liburing 0.4 или новее
 - lp_solve
 - etcd 3.4.15 или новее. Более старые версии не будут работать из-за разных багов,
   например, [#12402](https://github.com/etcd-io/etcd/pull/12402).

docs/installation/proxmox.en.md

@@ -6,10 +6,10 @@
 
 # Proxmox VE
 
-To enable Vitastor support in Proxmox Virtual Environment (6.4-8.x are supported):
+To enable Vitastor support in Proxmox Virtual Environment (6.4-8.1 are supported):
 
 - Add the corresponding Vitastor Debian repository into sources.list on Proxmox hosts:
-  trixie for 9.0+, bookworm for 8.1+, pve8.0 for 8.0, bullseye for 7.4, pve7.3 for 7.3, pve7.2 for 7.2, pve7.1 for 7.1, buster for 6.4
+  bookworm for 8.1, pve8.0 for 8.0, bullseye for 7.4, pve7.3 for 7.3, pve7.2 for 7.2, pve7.1 for 7.1, buster for 6.4
 - Install vitastor-client, pve-qemu-kvm, pve-storage-vitastor (* or see note) packages from Vitastor repository
 - Define storage in `/etc/pve/storage.cfg` (see below)
 - Block network access from VMs to Vitastor network (to OSDs and etcd),

docs/installation/proxmox.ru.md

@@ -6,10 +6,10 @@
 
 # Proxmox VE
 
-Чтобы подключить Vitastor к Proxmox Virtual Environment (поддерживаются версии 6.4-8.x):
+Чтобы подключить Vitastor к Proxmox Virtual Environment (поддерживаются версии 6.4-8.1):
 
 - Добавьте соответствующий Debian-репозиторий Vitastor в sources.list на хостах Proxmox:
-  trixie для 9.0+, bookworm для 8.1+, pve8.0 для 8.0, bullseye для 7.4, pve7.3 для 7.3, pve7.2 для 7.2, pve7.1 для 7.1, buster для 6.4
+  bookworm для 8.1, pve8.0 для 8.0, bullseye для 7.4, pve7.3 для 7.3, pve7.2 для 7.2, pve7.1 для 7.1, buster для 6.4
 - Установите пакеты vitastor-client, pve-qemu-kvm, pve-storage-vitastor (* или см. сноску) из репозитория Vitastor
 - Определите тип хранилища в `/etc/pve/storage.cfg` (см. ниже)
 - Обязательно заблокируйте доступ от виртуальных машин к сети Vitastor (OSD и etcd), т.к. Vitastor (пока) не поддерживает аутентификацию

docs/installation/s3.en.md

@@ -1,191 +0,0 @@
-[Documentation](../../README.md#documentation) → Installation → S3 for Vitastor
-
------
-
-[Читать на русском](s3.ru.md)
-
-# S3 for Vitastor
-
-The moment has come - Vitastor S3 implementation based on Zenko CloudServer is released.
-
-## Highlights
-
-- Zenko CloudServer is implemented in node.js.
-- Object metadata is stored in MongoDB.
-- Modified Zenko CloudServer version is used for Vitastor. It is slightly different from
-  the original, has an optimised build and unneeded dependencies are stripped off.
-- Object data is stored in Vitastor block volumes, but the volume metadata is stored in
-  the same MongoDB, not in Vitastor etcd.
-- Objects are written to volumes sequentially one after another. The space is allocated
-  with rounding to the sector size (4 KB), so each object takes at least 4 KB.
-- An important property of such storage scheme is that small objects aren't chunked into
-  parts in Vitastor EC N+K pools and thus don't require reads from all N disks when
-  downloading.
-- Deleted objects are marked as deleted, but the space is only actually freed during
-  asynchronously executed "defragmentation" process. Defragmentation runs automatically
-  in the background when a volume reaches configured amount of "garbage" (20% by default).
-  Defragmentation copies actual objects to new volume(s) and then removes the old volume.
-  Defragmentation can be configured in locationConfig.json.
-
-## Plans for future development
-
-- User account storage in the DB instead of a static file. Original Zenko uses
-  a separate closed-source "Scality Vault" service for it, that's why we use
-  a static file for now.
-- More detailed documentation.
-- Support for other (and faster) key-value DBMS for object metadata storage.
-- Other performance optimisations, for example, related to the used hash function -
-  MD5 used for Amazon compatibility purposes is relatively slow.
-- Object Lifecycle support. There is a Lifecycle implementation for Zenko called
-  [Backbeat](https://github.com/scality/backbeat) but it's not adapted for Vitastor yet.
-- Quota support. Original Zenko uses a separate "SCUBA" service for quotas, but
-  it's also proprietary and not available publicly.
-
-## Installation
-
-In a few words:
-
-- Install MongoDB, create a user for S3 metadata DB.
-- Create a Vitastor pool for S3 data.
-- Download and setup the Docker container `vitalif/vitastor-zenko`.
-
-### Setup MongoDB
-
-You can setup MongoDB yourself, following the [MongoDB manual](https://www.mongodb.com/docs/manual/installation/).
-
-Or you can follow the instructions below - it describes a simple example of MongoDB setup
-in Docker (through docker-compose) with 3 replicas.
-
-1. On each host, create a file `docker-compose.yml` with the content listed below.
-   Replace `<YOUR_PASSWORD>` with your future mongodb administrator password, and optionally
-   replace `0.0.0.0` with `localhost,<server_IP>`. It's recommended to either use a private IP
-   or [setup TLS](https://www.mongodb.com/docs/manual/tutorial/configure-ssl/) afterwards.
-
-```
-version: '3.1'
-
-services:
-
-  mongo:
-    container_name: mongo
-    image: mongo:7-jammy
-    restart: always
-    environment:
-      MONGO_INITDB_ROOT_USERNAME: root
-      MONGO_INITDB_ROOT_PASSWORD: <YOUR_PASSWORD>
-    network_mode: host
-    volumes:
-      - ./keyfile:/opt/keyfile
-      - ./mongo-data/db:/data/db
-      - ./mongo-data/configdb:/data/configdb
-    entrypoint: /bin/bash -c
-    command: [ "chown mongodb /opt/keyfile && chmod 600 /opt/keyfile && . /usr/local/bin/docker-entrypoint.sh mongod --replSet rs0 --keyFile /opt/keyfile --bind_ip 0.0.0.0" ]
-```
-
-2. Generate a shared cluster key using `openssl rand -base64 756 > ./keyfile` and copy
-   that `keyfile` to all hosts.
-
-3. Start MongoDB on all hosts with `docker compose up -d mongo`.
-
-4. Enter Mongo Shell with `docker exec -it mongo mongosh -u root -p <YOUR_PASSWORD> localhost/admin`
-   and execute the following command (replace IP addresses `10.10.10.{1,2,3}` with your host IPs):
-
-`rs.initiate({ _id: 'rs0', members: [
-  { _id: 1, host: '10.10.10.1:27017' },
-  { _id: 2, host: '10.10.10.2:27017' },
-  { _id: 3, host: '10.10.10.3:27017' }
-] })`
-
-5. Stay in Mongo Shell and create a user for the future S3 database:
-
-`db.createUser({ user: 's3', pwd: '<YOUR_S3_PASSWORD>', roles: [
-  { role: 'readWrite', db: 's3' },
-  { role: 'dbAdmin', db: 's3' },
-  { role: 'readWrite', db: 'vitastor' },
-  { role: 'dbAdmin', db: 'vitastor' }
-] })`
-
-### Setup Vitastor
-
-Create a pool in Vitastor for S3 object data, for example:
-
-`vitastor-cli create-pool --ec 2+1 -n 512 s3-data --used_for_app s3:standard`
-
-The `--used_for_app` options works as fool-proofing and prevents you from
-accidentally creating a regular block volume in the S3 pool and overwriting some S3 data.
-Also it hides inode space statistics from Vitastor etcd.
-
-Retrieve the ID of your pool with `vitastor-cli ls-pools s3-data --detail`.
-
-### Setup Vitastor S3
-
-1. Add the following lines to `docker-compose.yml` (instead of `network_mode: host`,
-   you can use `ports: [ "8000:8000", "8002:8002" ]`):
-
-```
-  zenko:
-    container_name: zenko
-    image: vitalif/vitastor-zenko
-    restart: always
-    security_opt:
-      - seccomp:unconfined
-    ulimits:
-      memlock: -1
-    network_mode: host
-    volumes:
-      - /etc/vitastor:/etc/vitastor
-      - /etc/vitastor/s3:/conf
-```
-
-2. Download Docker image: `docker pull vitalif/vitastor-zenko`
-
-3. Extract configuration file examples from the Docker image:
-   ```
-   docker run --rm -it -v /etc/vitastor:/etc/vitastor -v /etc/vitastor/s3:/conf vitalif/vitastor-zenko configure.sh
-   ```
-
-4. Edit configuration files in `/etc/vitastor/s3/`:
-   - `config.json` - common settings.
-   - `authdata.json` - user accounts and access keys.
-   - `locationConfig.json` - S3 storage class list with placement settings.
-     Note: it actually contains storage classes (like STANDARD, COLD, etc)
-     instead of "locations" (zones like us-east-1) as in the original Zenko CloudServer.
-   - Put your MongoDB connection data into `config.json` and `locationConfig.json`.
-   - Put your Vitastor pool ID into `locationConfig.json`.
-   - For now, the complete list of Vitastor backend settings is only available [in the code](https://git.yourcmc.ru/vitalif/zenko-arsenal/src/branch/master/lib/storage/data/vitastor/VitastorBackend.ts#L94).
-
-### Start Zenko
-
-Start the S3 server with:
-
-```
-docker run --restart always --security-opt seccomp:unconfined --ulimit memlock=-1 --network=host \
-    -v /etc/vitastor:/etc/vitastor -v /etc/vitastor/s3:/conf --name zenko vitalif/vitastor-zenko
-```
-
-If you use default settings, Zenko CloudServer starts on port 8000.
-The default access key is `accessKey1` with a secret key of `verySecretKey1`.
-
-Now you can access your S3 with, for example, [s3cmd](https://s3tools.org/s3cmd):
-
-```
-s3cmd --access_key=accessKey1 --secret_key=verySecretKey1 --host=http://localhost:8000 mb s3://testbucket
-```
-
-Or even mount it with [GeeseFS](https://github.com/yandex-cloud/geesefs):
-
-```
-AWS_ACCESS_KEY_ID=accessKey1 \
-    AWS_SECRET_ACCESS_KEY=verySecretKey1 \
-    geesefs --endpoint http://localhost:8000 testbucket mountdir
-```
-
-## Author & License
-
-- [Zenko CloudServer](https://s3-server.readthedocs.io/en/latest/) author is Scality,
-  licensed under [Apache License, version 2.0](https://www.apache.org/licenses/LICENSE-2.0)
-- [Vitastor](https://git.yourcmc.ru/vitalif/vitastor/) and Zenko Vitastor backend author is
-  Vitaliy Filippov, licensed under [VNPL-1.1](https://git.yourcmc.ru/vitalif/vitastor/src/branch/master/VNPL-1.1.txt)
-  (a "network copyleft" license based on AGPL/SSPL, but worded in a better way)
-- Vitastor S3 repository: https://git.yourcmc.ru/vitalif/zenko-cloudserver-vitastor
-- Vitastor S3 backend code: https://git.yourcmc.ru/vitalif/zenko-arsenal/src/branch/master/lib/storage/data/vitastor/VitastorBackend.ts

docs/installation/s3.ru.md

@@ -1,171 +0,0 @@
-[Документация](../../README-ru.md#документация) → Установка → S3 на базе Vitastor
-
------
-
-[Read in English](s3.en.md)
-
-# S3 на базе Vitastor
-
-Итак, свершилось - реализация Vitastor S3 на базе Zenko CloudServer достигла
-состояния готовности к публикации и использованию.
-
-## Ключевые особенности
-
-- Zenko CloudServer реализован на node.js.
-- Метаданные объектов хранятся в MongoDB.
-- Поставляется модифицированная версия Zenko CloudServer, отвязанная от лишних зависимостей,
-  с оптимизированной сборкой и немного отличающаяся от оригинала.
-- Данные объектов хранятся в блочных томах Vitastor, однако информация о самих томах
-  сохраняется не в etcd Vitastor, а тоже в БД на основе MongoDB.
-- Объекты записываются в тома последовательно друг за другом. Место выделяется с округлением
-  до размера сектора (до 4 килобайт), поэтому каждый объект занимает как минимум 4 КБ.
-- Благодаря такой схеме записи объектов мелкие объекты не нарезаются на части и поэтому не
-  требуют чтения с N дисков данных в EC N+K пулах Vitastor.
-- При удалении объекты помечаются удалёнными, но место освобождается не сразу, а при
-  запускаемой асинхронно "дефрагментации". Дефрагментация запускается автоматически в фоне
-  при достижении заданного объёма "мусора" в томе (по умолчанию 20%), копирует актуальные
-  объекты в новые тома, после чего очищает старый том полностью. Дефрагментацию можно
-  настраивать в locationConfig.json.
-
-## Планы развития
-
-- Хранение учётных записей в БД, а не в статическом файле (в оригинальном Zenko для
-  этого используется отдельный закрытый сервис "Scality Vault").
-- Более подробная документация.
-- Поддержка других (и более производительных) key-value СУБД для хранения метаданных.
-- Другие оптимизации производительности, например, в области используемой хеш-функции
-  (хеш MD5, используемый в целях совместимости, относительно медленный).
-- Поддержка Object Lifecycle. Реализация Lifecycle для Zenko существует и называется
-  [Backbeat](https://github.com/scality/backbeat), но она ещё не адаптирована для Vitastor.
-- Квоты. В оригинальном Zenko для этого используется отдельный сервис "SCUBA", однако
-  он тоже является закрытым и недоступен для публичного использования.
-
-## Установка
-
-Кратко:
-
-- Установите MongoDB, создайте пользователя для БД метаданных S3.
-- Создайте в Vitastor пул для хранения данных объектов.
-- Скачайте и настройте Docker-контейнер `vitalif/vitastor-zenko`.
-
-### Установка MongoDB
-
-Вы можете установить MongoDB сами, следуя [официальному руководству MongoDB](https://www.mongodb.com/docs/manual/installation/).
-
-Либо вы можете последовать инструкции, приведённой ниже - здесь описан простейший пример
-установки MongoDB в Docker (docker-compose) в конфигурации с 3 репликами.
-
-1. На всех 3 серверах создайте файл `docker-compose.yml`, заменив `<ВАШ_ПАРОЛЬ>`
-   на собственный будущий пароль администратора mongodb, а `0.0.0.0` по желанию
-   заменив на на `localhost,<IP_сервера>` - желательно либо использовать публично не доступный IP,
-   либо потом [настроить TLS](https://www.mongodb.com/docs/manual/tutorial/configure-ssl/).
-
-```
-version: '3.1'
-
-services:
-
-  mongo:
-    container_name: mongo
-    image: mongo:7-jammy
-    restart: always
-    environment:
-      MONGO_INITDB_ROOT_USERNAME: root
-      MONGO_INITDB_ROOT_PASSWORD: <ВАШ_ПАРОЛЬ>
-    network_mode: host
-    volumes:
-      - ./keyfile:/opt/keyfile
-      - ./mongo-data/db:/data/db
-      - ./mongo-data/configdb:/data/configdb
-    entrypoint: /bin/bash -c
-    command: [ "chown mongodb /opt/keyfile && chmod 600 /opt/keyfile && . /usr/local/bin/docker-entrypoint.sh mongod --replSet rs0 --keyFile /opt/keyfile --bind_ip 0.0.0.0" ]
-```
-
-2. В той же директории сгенерируйте общий ключ кластера командой `openssl rand -base64 756 > ./keyfile`
-   и скопируйте этот файл на все 3 сервера.
-
-3. На всех 3 серверах запустите MongoDB командой `docker compose up -d mongo`.
-
-4. Зайдите в Mongo Shell с помощью команды `docker exec -it mongo mongosh -u root -p <ВАШ_ПАРОЛЬ> localhost/admin`
-   и там выполните команду (заменив IP-адреса `10.10.10.{1,2,3}` на адреса своих серверов):
-
-`rs.initiate({ _id: 'rs0', members: [
-  { _id: 1, host: '10.10.10.1:27017' },
-  { _id: 2, host: '10.10.10.2:27017' },
-  { _id: 3, host: '10.10.10.3:27017' }
-] })`
-
-5. Находясь там же, в Mongo Shell, создайте пользователя с доступом к будущей базе данных S3:
-
-`db.createUser({ user: 's3', pwd: '<ВАШ_ПАРОЛЬ_S3>', roles: [
-  { role: 'readWrite', db: 's3' },
-  { role: 'dbAdmin', db: 's3' },
-  { role: 'readWrite', db: 'vitastor' },
-  { role: 'dbAdmin', db: 'vitastor' }
-] })`
-
-### Настройка Vitastor
-
-Создайте в Vitastor отдельный пул для данных объектов S3, например:
-
-`vitastor-cli create-pool --ec 2+1 -n 512 s3-data --used_for_app s3:standard`
-
-Опция `--used_for_app` работает как "защита от дурака" и не даёт вам случайно создать
-в этом пуле обычный блочный том и перезаписать им какие-то данные S3, а также скрывает
-статистику занятого места по томам S3 из etcd.
-
-Получите ID своего пула с помощью команды `vitastor-cli ls-pools --detail`.
-
-### Установка Vitastor S3
-
-1. Добавьте в `docker-compose.yml` строки (альтернативно вместо `network_mode: host`
-   можно использовать `ports: [ "8000:8000", "8002:8002" ]`):
-
-```
-  zenko:
-    container_name: zenko
-    image: vitalif/vitastor-zenko
-    restart: always
-    security_opt:
-      - seccomp:unconfined
-    ulimits:
-      memlock: -1
-    network_mode: host
-    volumes:
-      - /etc/vitastor:/etc/vitastor
-      - /etc/vitastor/s3:/conf
-```
-
-2. Извлеките из Docker-образа Vitastor примеры файлов конфигурации:
-   `docker run --rm -it -v /etc/vitastor:/etc/vitastor -v /etc/vitastor/s3:/conf vitalif/vitastor-zenko configure.sh`
-
-3. Отредактируйте файлы конфигурации в `/etc/vitastor/s3/`:
-   - `config.json` - общие настройки.
-   - `authdata.json` - учётные записи и ключи доступа.
-   - `locationConfig.json` - список классов хранения S3 с настройками расположения.
-     Внимание: в данной версии это именно список S3 storage class-ов (STANDARD, COLD и т.п.),
-     а не зон (подобных us-east-1), как в оригинальном Zenko CloudServer.
-   - В `config.json` и в `locationConfig.json` пропишите свои данные подключения к MongoDB.
-   - В `locationConfig.json` укажите ID пула Vitastor для хранения данных.
-   - Полный перечень настроек Vitastor-бэкенда пока можно посмотреть [в коде](https://git.yourcmc.ru/vitalif/zenko-arsenal/src/branch/master/lib/storage/data/vitastor/VitastorBackend.ts#L94).
-
-### Запуск
-
-Запустите S3-сервер: `docker-compose up -d zenko`
-
-Готово! Вы получили S3-сервер, работающий на порту 8000.
-
-Можете попробовать обратиться к нему с помощью, например, [s3cmd](https://s3tools.org/s3cmd):
-
-`s3cmd --host-bucket= --no-ssl --access_key=accessKey1 --secret_key=verySecretKey1 --host=http://localhost:8000 mb s3://testbucket`
-
-Или смонтировать его с помощью [GeeseFS](https://github.com/yandex-cloud/geesefs):
-
-`AWS_ACCESS_KEY_ID=accessKey1 AWS_SECRET_ACCESS_KEY=verySecretKey1 geesefs --endpoint http://localhost:8000 testbucket /mnt/geesefs`
-
-## Лицензия
-
-- Автор [Zenko CloudServer](https://s3-server.readthedocs.io/en/latest/) - Scality, лицензия [Apache 2.0](https://www.apache.org/licenses/LICENSE-2.0)
-- Vitastor-бэкенд для S3, как и сам Vitastor, лицензируется на условиях [VNPL 1.1](https://git.yourcmc.ru/vitalif/vitastor/src/branch/master/VNPL-1.1.txt)
-- Репозиторий сборки: https://git.yourcmc.ru/vitalif/zenko-cloudserver-vitastor
-- Бэкенд хранения данных: https://git.yourcmc.ru/vitalif/zenko-arsenal/src/branch/master/lib/storage/data/vitastor/VitastorBackend.ts

docs/installation/source.en.md

@@ -15,8 +15,8 @@
 - gcc and g++ 8 or newer, clang 10 or newer, or other compiler with C++11 plus
   designated initializers support from C++20
 - CMake
-- jerasure headers and libraries
-- ISA-L, libibverbs and librdmacm headers and libraries (optional)
+- liburing, jerasure headers and libraries
+- ISA-L, libibverbs headers and libraries (optional)
 - tcmalloc (google-perftools-dev)
 
 ## Basic instructions

docs/installation/source.ru.md

@@ -15,8 +15,8 @@
 - gcc и g++ >= 8, либо clang >= 10, либо другой компилятор с поддержкой C++11 плюс
   назначенных инициализаторов (designated initializers) из C++20
 - CMake
-- Заголовки и библиотеки jerasure
-- Опционально - заголовки и библиотеки ISA-L, libibverbs, librdmacm
+- Заголовки и библиотеки liburing, jerasure
+- Опционально - заголовки и библиотеки ISA-L, libibverbs
 - tcmalloc (google-perftools-dev)
 
 ## Базовая инструкция

docs/intro/architecture.en.md

@@ -125,13 +125,6 @@ All other client-side components are based on the client library:
   all current read/write operations to it fail with EPIPE error and are retried by clients.
 - After completing all secondary read/write requests, primary OSD sends the response to
   the client.
-- When [localized reads](../config/pool.en.md#local_reads) are enabled for a PG in a
-  replicated pool, and the PG is in an active and clean state (active or
-  active+left_on_dead), the client can send the request to one of secondary OSDs instead
-  of the primary. Secondary OSD checks the [PG lock](../config/osd.en.md#enable_pg_locks)
-  and handles the request locally without communicating to the primary. PG lock is required
-  for the secondary OSD to know for sure that the PG is in clean state and not switching
-  primary at the moment.
 
 ### Nuances of request handling
 

docs/intro/architecture.ru.md

@@ -125,12 +125,6 @@
   и если любое из этих соединений отключается, PG перезапускается, а все текущие запросы чтения
   и записи в неё завершаются с ошибкой EPIPE, после чего повторяются клиентами.
 - После завершения всех вторичных операций чтения/записи первичный OSD отправляет ответ клиенту.
-- Если в реплицированном пуле включены [локализованные чтения](../config/pool.ru.md#local_reads),
-  а PG находится в чистом активном состоянии (active или active+left_on_dead), клиент может
-  послать запрос к одному из вторичных OSD вместо первичного. Вторичный OSD проверяет
-  [блокировку PG](../config/osd.ru.md#enable_pg_locks) и обрабатывает запрос локально, не
-  обращаясь к первичному. Блокировка PG здесь нужна, чтобы вторичный OSD мог точно знать,
-  что PG находится в чистом состоянии и не переключается на другой первичный OSD.
 
 ### Особенности обработки запросов
 

docs/intro/author.en.md

@@ -10,17 +10,8 @@ Copyright (c) Vitaliy Filippov (vitalif [at] yourcmc.ru), 2019+
 
 Join Vitastor Telegram Chat: https://t.me/vitastor
 
-License: VNPL 1.1 for server-side code and dual VNPL 1.1 + GPL 2.0+ for client tools.
-
-Server-side code is licensed only under the terms of VNPL.
-
-Client libraries (cluster_client and so on) are dual-licensed under the same
-VNPL 1.1 and also GNU GPL 2.0 or later to allow for compatibility with GPLed
-software like QEMU and fio.
-
-## VNPL
-
-Vitastor Network Public License 1.1 (VNPL 1.1) is a copyleft license based on
+All server-side code (OSD, Monitor and so on) is licensed under the terms of
+Vitastor Network Public License 1.1 (VNPL 1.1), a copyleft license based on
 GNU GPLv3.0 with the additional "Network Interaction" clause which requires
 opensourcing all programs directly or indirectly interacting with Vitastor
 through a computer network and expressly designed to be used in conjunction
@@ -29,83 +20,18 @@ the terms of the same license, but also under the terms of any GPL-Compatible
 Free Software License, as listed by the Free Software Foundation.
 This is a stricter copyleft license than the Affero GPL.
 
-The idea of VNPL is, in addition to modules linked to Vitastor code in a single
-binary file, to extend copyleft action to micro-service modules only interacting
-with it over the network.
+Please note that VNPL doesn't require you to open the code of proprietary
+software running inside a VM if it's not specially designed to be used with
+Vitastor.
 
 Basically, you can't use the software in a proprietary environment to provide
 its functionality to users without opensourcing all intermediary components
 standing between the user and Vitastor or purchasing a commercial license
 from the author 😀.
 
-At the same time, VNPL doesn't impose any restrictions on software *not specially designed*
-to be used with Vitastor, for example, on Windows running inside a VM with a Vitastor disk.
+Client libraries (cluster_client and so on) are dual-licensed under the same
+VNPL 1.1 and also GNU GPL 2.0 or later to allow for compatibility with GPLed
+software like QEMU and fio.
 
-## Explanation
-
-Network copyleft is governed by the clause **13. Remote Network Interaction** of VNPL.
-
-A program is considered to be a "Proxy Program" if it meets both conditions:
-- It is specially designed to be used with Vitastor. Basically, it means that the program
-  has any functionality specific to Vitastor and thus "knows" that it works with Vitastor,
-  not with something random.
-- It interacts with Vitastor directly or indirectly through any programming interface,
-  including API, CLI, network or any wrapper (also considered a Proxy Program itself).
-
-If, in addition to that:
-- You give any user an apportunity to interact with Vitastor directly or indirectly through
-  any computer interface including the network or any number of wrappers (Proxy Programs).
-
-Then VNPL requires you to publish the code of all above Proxy Programs to all above users
-under the terms of any GPL-compatible license - that is, GPL, LGPL, MIT/BSD or Apache 2,
-because "GPL compatibility" is treated as an ability to legally include licensed code in
-a GPL application.
-
-So, if you have a "Proxy Program", but it's not open to the user who directly or indirectly
-interacts with Vitastor - you are forbidden to use Vitastor under the terms of VNPL and you
-need a commercial license which doesn't contain open-source requirements.
-
-## Examples
-
-- Vitastor Kubernetes CSI driver which creates PersistentVolumes by calling `vitastor-cli create`.
-  - Yes, it interacts with Vitastor through vitastor-cli.
-  - Yes, it is designed specially for use with Vitastor (it has no sense otherwise).
-  - So, CSI driver **definitely IS** a Proxy Program and must be published under the terms of
-    a free software license.
-- Windows, installed in a VM with the system disk on Vitastor storage.
-  - Yes, it interacts with Vitastor indirectly - it reads and writes data through the block
-    device interface, emulated by QEMU.
-  - No, it definitely isn't designed specially for use with Vitastor - Windows was created long
-    ago before Vitastor and doesn't know anything about it.
-  - So, Windows **definitely IS NOT** a Proxy Program and VNPL doesn't require to open it.
-- Cloud control panel which makes requests to Vitastor Kubernetes CSI driver.
-  - Yes, it interacts with Vitastor indirectly through the CSI driver, which is a Proxy Program.
-  - May or may not be designed specially for use with Vitastor. How to determine exactly?
-    Imagine that Vitastor is replaced with any other storage (for example, with a proprietary).
-    Do control panel functions change in any way? If they do (for example, if snapshots stop working),
-    then the panel contains specific functionality and thus is designed specially for use with Vitastor.
-    Otherwise, the panel is universal and isn't designed specially for Vitastor.
-  - So, whether you are required to open-source the panel also **depends** on whether it
-    contains specific functionality or not.
-
-## Why?
-
-Because I believe into the spirit of copyleft (Linux wouldn't become so popular without GPL!)
-and, at the same time, I want to have a way to monetize the product.
-
-Existing licenses including AGPL are useless for it with an SDS - SDS is a very deeply
-internal software which is almost definitely invisible to the user and thus AGPL doesn't
-require anyone to open the code even if they make a proprietary fork.
-
-And, in fact, the current situation in the world where GPL is though to only restrict direct
-linking of programs into a single executable file, isn't much correct. Nowadays, programs
-are more often linked with network API calls, not with /usr/bin/ld, and a software product
-may consist of dozens of microservices interacting with each other over the network.
-
-That's why we need VNPL to keep the license sufficiently copyleft.
-
-## License Texts
-
-- VNPL 1.1 in English: [VNPL-1.1.txt](../../VNPL-1.1.txt)
-- VNPL 1.1 in Russian: [VNPL-1.1-RU.txt](../../VNPL-1.1-RU.txt)
-- GPL 2.0: [GPL-2.0.txt](../../GPL-2.0.txt)
+You can find the full text of VNPL-1.1 in the file [VNPL-1.1.txt](../../VNPL-1.1.txt).
+GPL 2.0 is also included in this repository as [GPL-2.0.txt](../../GPL-2.0.txt).

docs/intro/author.ru.md

@@ -12,14 +12,6 @@
 
 Лицензия: VNPL 1.1 на серверный код и двойная VNPL 1.1 + GPL 2.0+ на клиентский.
 
-Серверные компоненты распространяются только на условиях VNPL.
-
-Клиентские библиотеки распространяются на условиях двойной лицензии VNPL 1.0
-и также на условиях GNU GPL 2.0 или более поздней версии. Так сделано в целях
-совместимости с таким ПО, как QEMU и fio.
-
-## VNPL
-
 VNPL - "сетевой копилефт", собственная свободная копилефт-лицензия
 Vitastor Network Public License 1.1, основанная на GNU GPL 3.0 с дополнительным
 условием "Сетевого взаимодействия", требующим распространять все программы,
@@ -37,70 +29,9 @@ Vitastor Network Public License 1.1, основанная на GNU GPL 3.0 с д
 На Windows и любое другое ПО, не разработанное *специально* для использования
 вместе с Vitastor, никакие ограничения не накладываются.
 
-## Пояснение
+Клиентские библиотеки распространяются на условиях двойной лицензии VNPL 1.0
+и также на условиях GNU GPL 2.0 или более поздней версии. Так сделано в целях
+совместимости с таким ПО, как QEMU и fio.
 
-Сетевой копилефт регулируется пунктом лицензии **13. Удалённое сетевое взаимодействие**.
-
-Программа считается "прокси-программой", если верны оба условия:
-- Она создана специально для работы вместе с Vitastor. По сути это означает, что программа
-  должна иметь специфичный для Vitastor функционал, то есть, "знать", что она взаимодействует
-  именно с Vitastor.
-- Она прямо или косвенно взаимодействует с Vitastor через абсолютно любой программный
-  интерфейс, включая любые способы вызова: API, CLI, сеть или через какую-то обёртку (в
-  свою очередь тоже являющуюся прокси-программой).
-
-Если в дополнение к этому также:
-- Вы предоставляете любому пользователю возможность взаимодействовать с Vitastor по сети,
-  опять-таки, через любой интерфейс или любую серию "обёрток" (прокси-программ)
-
-То, согласно VNPL, вы должны открыть код "прокси-программ" **таким пользователям** на условиях
-любой GPL-совместимой лицензии - то есть, GPL, LGPL, MIT/BSD или Apache 2 - "совместимость с GPL"
-понимается как возможность включать лицензируемый код в GPL-приложение.
-
-Соответственно, если у вас есть "прокси-программа", но её код не открыт пользователю,
-который прямо или косвенно взаимодействует с Vitastor - вам запрещено использовать Vitastor
-на условиях VNPL и вам нужна коммерческая лицензия, не содержащая требований об открытии кода.
-
-## Примеры
-
-- Kubernetes CSI-драйвер Vitastor, создающий PersistentVolume с помощью вызова `vitastor-cli create`.
-  - Да, взаимодействует с Vitastor через vitastor-cli.
-  - Да, создавался специально для работы с Vitastor (иначе в чём же ещё его смысл).
-  - Значит, CSI-драйвер **точно считается** "прокси-программой" и должен быть открыт под свободной
-    лицензией.
-- Windows, установленный в виртуальную машину на диске Vitastor.
-  - Да, взаимодействует с Vitastor "прямо или косвенно" - пишет и читает данные через интерфейс
-    блочного устройства, эмулируемый QEMU.
-  - Нет, точно не создан *специально для работы с Vitastor* - когда его создавали, никакого
-    Vitastor ещё и в помине не было.
-  - Значит, Windows **точно не считается** "прокси-программой" и на него требования VNPL не распространяются.
-- Панель управления облака, делающая запросы к Kubernetes CSI-драйверу Vitastor.
-  - Да, взаимодействует с Vitastor косвенно через CSI-драйвер, являющийся "прокси-программой".
-  - Сходу не известно, создавалась ли конкретно для работы с Vitastor. Как понять, да или нет?
-    Представьте, что Vitastor заменён на любую другую систему хранения (например, на проприетарную).
-    Работа панели управления изменится? Если да (например, перестанут работать снапшоты) - значит,
-    панель содержит специфичный функционал и "создана специально для работы с Vitastor".
-    Если нет - значит, специфичного функционала панель не содержит и в принципе она универсальна.
-  - Нужно ли открывать панель - **зависит** от того, содержит она специфичный функционал или нет.
-
-## Почему так?
-
-Потому что я одновременно верю в дух копилефт-лицензий (Linux не стал бы так популярен,
-если бы не GPL!) и хочу иметь возможность монетизации продукта.
-
-При этом использовать даже AGPL для программной СХД бессмысленно - это глубоко внутреннее
-ПО, которое пользователь почти наверняка не увидит вообще, поэтому и открывать код никому
-никогда не придётся, даже при создании производного продукта.
-
-Да и в целом сложившаяся в мире ситуация, при которой действие GPL ограничивается только
-прямым связыванием в один исполняемый файл, не очень корректна. В настоящее время программы
-гораздо чаще интегрируют сетевыми вызовами, а не с помощью /usr/bin/ld, и общий программный
-продукт может состоять из нескольких десятков микросервисов, взаимодействующих по сети.
-
-Поэтому для сохранения достаточной "копилефтности" и придумана VNPL.
-
-## Тексты лицензий
-
-- VNPL 1.1 на английском языке: [VNPL-1.1.txt](../../VNPL-1.1.txt)
-- VNPL 1.1 на русском языке: [VNPL-1.1-RU.txt](../../VNPL-1.1-RU.txt)
-- GPL 2.0: [GPL-2.0.txt](../../GPL-2.0.txt)
+Вы можете найти полный текст VNPL 1.1 на английском языке в файле [VNPL-1.1.txt](../../VNPL-1.1.txt),
+VNPL 1.1 на русском языке в файле [VNPL-1.1-RU.txt](../../VNPL-1.1-RU.txt), а GPL 2.0 в файле [GPL-2.0.txt](../../GPL-2.0.txt).

docs/intro/features.en.md

@@ -25,11 +25,10 @@
 - Recovery of degraded blocks
 - Rebalancing (data movement between OSDs)
 - [Lazy fsync support](../config/layout-cluster.en.md#immediate_commit)
-- [Localized read support](../config/pool.en.md#local_reads) for cross-datacenter setup optimization
 - Per-OSD and per-image I/O and space usage statistics in etcd
 - Snapshots and copy-on-write image clones
 - [Write throttling to smooth random write workloads in SSD+HDD configurations](../config/osd.en.md#throttle_small_writes)
-- RDMA/RoCEv2 support [via libibverbs](../config/network.en.md#use_rdma) or [RDMA-CM](../config/network.en.md#use_rdmacm)
+- [RDMA/RoCEv2 support via libibverbs](../config/network.en.md#rdma_device)
 - [Scrubbing](../config/osd.en.md#auto_scrub) (verification of copies)
 - [Checksums](../config/layout-osd.en.md#data_csum_type)
 - [Client write-back cache](../config/client.en.md#client_enable_writeback)
@@ -38,7 +37,6 @@
 - [Experimental internal etcd replacement - antietcd](../config/monitor.en.md#use_antietcd)
 - [Built-in Prometheus metric exporter](../config/monitor.en.md#enable_prometheus)
 - [NFS RDMA support](../usage/nfs.en.md#rdma) (probably also usable for GPUDirect)
-- [S3](../installation/s3.en.md)
 
 ## Plugins and tools
 
@@ -52,7 +50,7 @@
 - Generic user-space client library
 - [Native QEMU driver](../usage/qemu.en.md)
 - [Loadable fio engine for benchmarks](../usage/fio.en.md)
-- [UBLK](../usage/ublk.en.md) and [NBD](../usage/nbd.en.md) servers for kernel mounts
+- [NBD proxy for kernel mounts](../usage/nbd.en.md)
 - [Simplified NFS proxy for file-based image access emulation (suitable for VMWare)](../usage/nfs.en.md#pseudo-fs)
 
 ## Roadmap
@@ -65,6 +63,7 @@ The following features are planned for the future:
 - iSCSI and NVMeoF gateways
 - Multi-threaded client
 - Faster failover
+- S3
 - Tiered storage (SSD caching)
 - NVDIMM support
 - Compression (possibly)

docs/intro/features.ru.md

@@ -25,13 +25,12 @@
 - Восстановление деградированных блоков
 - Ребаланс, то есть перемещение данных между OSD (дисками)
 - [Поддержка "ленивого" fsync (fsync не на каждую операцию)](../config/layout-cluster.ru.md#immediate_commit)
-- [Локальные чтения](../config/pool.ru.md#local_reads) для оптимизации при нескольких датацентрах
 - Сбор статистики ввода/вывода в etcd
 - Статистика операций ввода/вывода и занятого места в разрезе инодов
 - Именование инодов через хранение их метаданных в etcd
 - Снапшоты и copy-on-write клоны
 - [Сглаживание производительности случайной записи в SSD+HDD конфигурациях](../config/osd.ru.md#throttle_small_writes)
-- Поддержка RDMA/RoCEv2 [через libibverbs](../config/network.ru.md#use_rdma) или [RDMA-CM](../config/network.ru.md#use_rdmacm)
+- [Поддержка RDMA/RoCEv2 через libibverbs](../config/network.ru.md#rdma_device)
 - [Фоновая проверка целостности](../config/osd.ru.md#auto_scrub) (сверка копий)
 - [Контрольные суммы](../config/layout-osd.ru.md#data_csum_type)
 - [Буферизация записи на стороне клиента](../config/client.ru.md#client_enable_writeback)
@@ -40,7 +39,6 @@
 - [Экспериментальная встроенная замена etcd - antietcd](../config/monitor.ru.md#use_antietcd)
 - [Встроенный Prometheus-экспортер метрик](../config/monitor.ru.md#enable_prometheus)
 - [Поддержка NFS RDMA](../usage/nfs.ru.md#rdma) (вероятно, также подходящая для GPUDirect)
-- [S3](../installation/s3.ru.md)
 
 ## Драйверы и инструменты
 
@@ -54,7 +52,7 @@
 - Общая пользовательская клиентская библиотека для работы с кластером
 - [Драйвер диска для QEMU](../usage/qemu.ru.md)
 - [Драйвер диска для утилиты тестирования производительности fio](../usage/fio.ru.md)
-- [UBLK](../usage/ublk.ru.md) и [NBD](../usage/nbd.ru.md) серверы для монтирования образов ядром ("блочное устройство в режиме пользователя")
+- [NBD-прокси для монтирования образов ядром](../usage/nbd.ru.md) ("блочное устройство в режиме пользователя")
 - [Упрощённая NFS-прокси для эмуляции файлового доступа к образам (подходит для VMWare)](../usage/nfs.ru.md#псевдо-фс)
 
 ## Планы развития
@@ -65,6 +63,7 @@
 - iSCSI и NVMeoF прокси
 - Многопоточный клиент
 - Более быстрое переключение при отказах
+- S3
 - Поддержка SSD-кэширования (tiered storage)
 - Поддержка NVDIMM
 - Возможно, сжатие

docs/intro/quickstart.en.md

@@ -50,7 +50,7 @@ On the monitor hosts:
 
 ## Configure OSDs
 
-- Put etcd_address and [osd_network](../config/network.en.md#osd_network) into `/etc/vitastor/vitastor.conf`. Example:
+- Put etcd_address and osd_network into `/etc/vitastor/vitastor.conf`. Example:
   ```
   {
     "etcd_address": ["10.200.1.10:2379","10.200.1.11:2379","10.200.1.12:2379"],

docs/intro/quickstart.ru.md

@@ -50,7 +50,7 @@
 
 ## Настройте OSD
 
-- Пропишите etcd_address и [osd_network](../config/network.ru.md#osd_network) в `/etc/vitastor/vitastor.conf`. Например:
+- Пропишите etcd_address и osd_network в `/etc/vitastor/vitastor.conf`. Например:
   ```
   {
     "etcd_address": ["10.200.1.10:2379","10.200.1.11:2379","10.200.1.12:2379"],

docs/usage/admin.en.md

@@ -14,7 +14,6 @@
 - [Removing a failed disk](#removing-a-failed-disk)
 - [Adding a disk](#adding-a-disk)
 - [Restoring from lost pool configuration](#restoring-from-lost-pool-configuration)
-- [Incompatibility problems](#Incompatibility-problems)
 - [Upgrading Vitastor](#upgrading-vitastor)
 - [OSD memory usage](#osd-memory-usage)
 
@@ -36,19 +35,10 @@ PG state consists of exactly 1 base state and an arbitrary number of additional
 
 PG state always includes exactly 1 of the following base states:
 - **active** — PG is active and handles user I/O.
-- **incomplete** — Not enough OSDs are available to activate this PG. More exactly, that
-  means one of the following:
-  - Less than pg_minsize current target OSDs are available for the PG. I.e. more disks
-    are lost than allowed by the pool's redundancy scheme.
-  - All OSDs of some of PG's history records are unavailable, or, for EC pools, less
-    than (pg_size-parity_chunks) OSDs are available in one of the history records.
-    In other words it means that some data in this PG was written to an OSD set such that
-    it's currently impossible to read it back because these OSDs are down. For example,
-    if the pool has pg_size=3 and pg_minsize=1, part of the data may be written only to
-    1 OSD. If that exact OSD is lost, PG becomes **incomplete**.
-  - [allow_net_split](../config/osd.en.md#allow_net_split) is disabled (default) and
-    primary OSD of the PG can't connect to some secondary OSDs marked as alive in etcd.
-    I.e. a network partition happened: OSDs can talk to etcd, but not to some other OSDs.
+- **incomplete** — Not enough OSDs are available to activate this PG. That is, more disks
+  are lost than it's allowed by the pool's redundancy scheme. For example, if the pool has
+  pg_size=3 and pg_minsize=1, part of the data may be written only to 1 OSD. If that exact
+  OSD is lost, PG will become **incomplete**.
 - **offline** — PG isn't activated by any OSD at all. Either primary OSD isn't set for
   this PG at all (if the pool is just created), or an unavailable OSD is set as primary,
   or the primary OSD refuses to start this PG (for example, because of wrong block_size),
@@ -167,17 +157,6 @@ done
 
 After that all PGs should peer and find all previous data.
 
-## Incompatibility problems
-
-### ISA-L 2.31
-
-⚠ It is FORBIDDEN to use Vitastor 2.1.0 and earlier versions with ISA-L 2.31 and newer if
-you use EC N+K pools and K > 1 on a CPU with GF-NI instruction support, because it WILL
-lead to **data loss** during EC recovery.
-
-If you accidentally upgraded ISA-L to 2.31 but didn't upgrade Vitastor and restarted OSDs,
-then stop them as soon as possible and either update Vitastor or roll back ISA-L.
-
 ## Upgrading Vitastor
 
 Every upcoming Vitastor version is usually compatible with previous both forward

docs/usage/admin.ru.md

@@ -14,7 +14,6 @@
 - [Удаление неисправного диска](#удаление-неисправного-диска)
 - [Добавление диска](#добавление-диска)
 - [Восстановление потерянной конфигурации пулов](#восстановление-потерянной-конфигурации-пулов)
-- [Проблемы несовместимости](#проблемы-несовместимости)
 - [Обновление Vitastor](#обновление-vitastor)
 - [Потребление памяти OSD](#потребление-памяти-osd)
 
@@ -36,20 +35,10 @@
 
 Состояние PG включает в себя ровно 1 флаг из следующих:
 - **active** — PG активна и обрабатывает запросы ввода-вывода от пользователей.
-- **incomplete** — Недостаточно живых OSD, чтобы включить эту PG. Если точнее, то это
-  означает один из следующих вариантов:
-  - Доступно менее, чем pg_minsize текущих целевых OSD данной PG. Иными словами, потеряно
-    больше дисков, чем это разрешает схема отказоустойчивости пула.
-  - Все OSD одной из исторических записей PG недоступны, или, для EC-пулов, в одной
-    из исторических записей PG доступно менее, чем (pg_size-parity_chunks) OSD. Другими
-    словами это означает, что часть данных этой PG была записана в такой набор OSD, из
-    которого их сейчас невозможно прочитать обратно, так как OSD не включены. Например,
-    если у пула pg_size=3 и pg_minsize=1, то часть данных может записаться всего на 1 OSD.
-    Если потом конкретно этот OSD упадёт, PG окажется **incomplete**.
-  - [allow_net_split](../config/osd.ru.md#allow_net_split) отключено (по умолчанию) и
-    первичный OSD данной PG не может соединиться с частью вторичных OSD этой PG, помеченных
-    как живых в etcd. Это означает, что произошло разделение сети: OSD могут общаться с etcd,
-    но не могут общаться с частью других OSD.
+- **incomplete** — Недостаточно живых OSD, чтобы включить эту PG.
+  То есть, дисков потеряно больше, чем разрешено схемой отказоустойчивости пула и pg_minsize.
+  Например, если у пула pg_size=3 и pg_minsize=1, то часть данных может записаться всего на 1 OSD.
+  Если потом конкретно этот OSD упадёт, PG окажется **incomplete**.
 - **offline** — PG вообще не активирована ни одним OSD. Либо первичный OSD не назначен вообще
   (если пул только создан), либо в качестве первичного назначен недоступный OSD, либо
   назначенный OSD отказывается запускать эту PG (например, из-за несовпадения block_size),
@@ -164,17 +153,6 @@ done
 
 После этого все PG должны пройти peering и найти все предыдущие данные.
 
-## Проблемы несовместимости
-
-### ISA-L 2.31
-
-⚠ ЗАПРЕЩЕНО использовать Vitastor 2.1.0 и более ранних версий с библиотекой ISA-L версии 2.31
-или более новой, если вы используете EC-пулы N+K и K > 1 на CPU с поддержкой инструкций GF-NI,
-так как это приведёт к **потере данных** при восстановлении из EC.
-
-Если вы случайно обновили ISA-L до 2.31, но не обновили Vitastor, и успели перезапустить OSD,
-то как можно скорее остановите их все и либо обновите Vitastor, либо откатите ISA-L.
-
 ## Обновление Vitastor
 
 Обычно каждая следующая версия Vitastor совместима с предыдущими и "вперёд", и "назад"

docs/usage/cli.en.md

@@ -355,7 +355,7 @@ Set OSD reweight, tags or noout flag. See detail description in [OSD config docu
 
 ## pg-list
 
-`vitastor-cli pg-list|pg-ls|list-pg|ls-pg|ls-pgs|pgs [OPTIONS] [state1+state2] [^state3] [...]`
+`vitastor-cli pg-list|pg-ls|list-pg|ls-pg|ls-pgs [OPTIONS] [state1+state2] [^state3] [...]`
 
 List PGs with any of listed state filters (^ or ! in the beginning is negation). Options:
 
@@ -363,7 +363,6 @@ List PGs with any of listed state filters (^ or ! in the beginning is negation).
 --pool <pool name or number>  Only list PGs of the given pool.
 --min <min pg number>         Only list PGs with number >= min.
 --max <max pg number>         Only list PGs with number <= max.
---osd 1,2,...                 Only list PGs with some data on specified OSD(s).
 ```
 
 Examples:
@@ -378,11 +377,11 @@ Examples:
 
 Create a pool. Required parameters:
 
-| <!-- -->                 | <!-- -->                                                                                |
-|--------------------------|-----------------------------------------------------------------------------------------|
-| `-s R` or `--pg_size R`  | Number of replicas for replicated pools                                                 |
-| `--ec N+K`               | Number of data (N) and parity (K) chunks for erasure-coded pools                        |
-| `-n N` or `--pg_count N` | PG count for the new pool (start with 10*\<OSD count\>/pg_size rounded to a power of 2) |
+| <!-- -->                 | <!-- -->                                                                              |
+|--------------------------|---------------------------------------------------------------------------------------|
+| `-s R` or `--pg_size R`  | Number of replicas for replicated pools                                               |
+| `--ec N+K`               | Number of data (N) and parity (K) chunks for erasure-coded pools                      |
+| `-n N` or `--pg_count N` | PG count for the new pool (start with 10*<OSD count>/pg_size rounded to a power of 2) |
 
 Optional parameters:
 
@@ -397,11 +396,9 @@ Optional parameters:
 | `--immediate_commit none`      | Put pool only on OSDs with this or larger immediate_commit (none < small < all) |
 | `--level_placement <rules>`    | Use additional failure domain rules (example: "dc=112233")                 |
 | `--raw_placement <rules>`      | Specify raw PG generation rules ([details](../config/pool.en.md#raw_placement)) |
-| `--local_reads primary`        | Local read policy for replicated pools: primary, nearest or random         |
 | `--primary_affinity_tags tags` | Prefer to put primary copies on OSDs with all specified tags               |
 | `--scrub_interval <time>`      | Enable regular scrubbing for this pool. Format: number + unit s/m/h/d/M/y  |
-| `--used_for_app fs:<name>`     | Mark pool as used for VitastorFS with metadata in image `<name>`           |
-| `--used_for_app s3:<name>`     | Mark pool as used for S3 location with name `<name>`                       |
+| `--used_for_fs <name>`         | Mark pool as used for VitastorFS with metadata in image <name>             |
 | `--pg_stripe_size <number>`    | Increase object grouping stripe                                            |
 | `--max_osd_combinations 10000` | Maximum number of random combinations for LP solver input                  |
 | `--wait`                       | Wait for the new pool to come online                                       |

docs/usage/cli.ru.md

@@ -22,8 +22,6 @@ vitastor-cli - интерфейс командной строки для адм
 - [flatten](#flatten)
 - [rm-data](#rm-data)
 - [merge-data](#merge-data)
-- [describe](#describe)
-- [fix](#fix)
 - [alloc-osd](#alloc-osd)
 - [rm-osd](#rm-osd)
 - [osd-tree](#osd-tree)
@@ -377,10 +375,9 @@ OSD  PARENT            UP    SIZE  USED%    TAGS          WEIGHT  BLOCK  BITMAP
 в начале фильтра означает отрицание). Опции:
 
 ```
---pool <pool name or number>  Вывести только PG в заданном пуле.
---min <min pg number>         Вывести только PG с номерами >= min.
---max <max pg number>         Вывести только PG с номерами <= max.
---osd 1,2,...                 Вывести только PG с данными на заданных OSD.
+--pool <pool name or number>  Only list PGs of the given pool.
+--min <min pg number>         Only list PGs with number >= min.
+--max <max pg number>         Only list PGs with number <= max.
 ```
 
 Примеры:
@@ -395,11 +392,11 @@ OSD  PARENT            UP    SIZE  USED%    TAGS          WEIGHT  BLOCK  BITMAP
 
 Создать пул. Обязательные параметры:
 
-| <!-- -->                  | <!-- -->                                                                                      |
-|---------------------------|-----------------------------------------------------------------------------------------------|
-| `-s R` или `--pg_size R`  | Число копий данных для реплицированных пулов                                                  |
-| `--ec N+K`                | Число частей данных (N) и чётности (K) для пулов с кодами коррекции ошибок                    |
-| `-n N` или `--pg_count N` | Число PG для нового пула (начните с 10*\<число OSD\>/pg_size, округлённого до степени двойки) |
+| <!-- -->                  | <!-- -->                                                                                    |
+|---------------------------|---------------------------------------------------------------------------------------------|
+| `-s R` или `--pg_size R`  | Число копий данных для реплицированных пулов                                                |
+| `--ec N+K`                | Число частей данных (N) и чётности (K) для пулов с кодами коррекции ошибок                  |
+| `-n N` или `--pg_count N` | Число PG для нового пула (начните с 10*<число OSD>/pg_size, округлённого до степени двойки) |
 
 Необязательные параметры:
 
@@ -414,7 +411,6 @@ OSD  PARENT            UP    SIZE  USED%    TAGS          WEIGHT  BLOCK  BITMAP
 | `--immediate_commit none`      | ...только OSD с этим или большим immediate_commit (none < small < all)     |
 | `--level_placement <rules>`    | Задать правила дополнительных доменов отказа (пример: "dc=112233")         |
 | `--raw_placement <rules>`      | Задать низкоуровневые правила генерации PG ([детали](../config/pool.ru.md#raw_placement)) |
-| `--local_reads primary`        | Политика локальных чтений для реплик: primary, nearest или random          |
 | `--primary_affinity_tags tags` | Предпочитать OSD со всеми данными тегами для роли первичных                |
 | `--scrub_interval <time>`      | Включить скрабы с заданным интервалом времени (число + единица s/m/h/d/M/y) |
 | `--pg_stripe_size <number>`    | Увеличить блок группировки объектов по PG                                  |

docs/usage/disk.en.md

@@ -14,7 +14,6 @@ It supports the following commands:
 - [upgrade-simple](#upgrade-simple)
 - [resize](#resize)
 - [raw-resize](#raw-resize)
-- [trim](#trim)
 - [start/stop/restart/enable/disable](#start/stop/restart/enable/disable)
 - [purge](#purge)
 - [read-sb](#read-sb)
@@ -73,8 +72,6 @@ Options (automatic mode):
 --max_other 10%
   Use disks for OSD data even if they already have non-Vitastor partitions,
   but only if these take up no more than this percent of disk space.
---dry-run
-  Check and print new OSD count for each disk but do not actually create them.
 ```
 
 Options (single-device mode):
@@ -100,9 +97,6 @@ Options (both modes):
 --data_device_block 4k     Override data device block size
 --meta_device_block 4k     Override metadata device block size
 --journal_device_block 4k  Override journal device block size
---discard_on_start 0       TRIM unused data device blocks every OSD start (default off)
---min_discard_size 1M      Minimum TRIM block size
---json                     Enable JSON output
 ```
 
 [immediate_commit](../config/layout-cluster.en.md#immediate_commit) setting is
@@ -185,19 +179,6 @@ parameters from OSD command line (i.e. from systemd unit or superblock).
 SIZE may include k/m/g/t suffixes. If any of the new layout parameter
 options are not specified, old values will be used.
 
-## trim
-
-`vitastor-disk trim <osd_num>|<osd_device> [<osd_num>|<osd_device>...]`
-
-Try to discard unused blocks (SSD TRIM) on the data device of each of the OSD(s).
-
-May only be used on stopped OSDs. Options:
-
-```
---min_discard_size 1M      Minimum TRIM block size
---discard_granularity 0    Override device's discard granularity
-```
-
 ## start/stop/restart/enable/disable
 
 `vitastor-disk start|stop|restart|enable|disable [--now] <device> [device2 device3 ...]`

docs/usage/disk.ru.md

@@ -74,8 +74,6 @@ vitastor-disk - инструмент командной строки для уп
 --max_other 10%
   Использовать диски под данные OSD, даже если на них уже есть не-Vitastor-овые
   разделы, но только в случае, если они занимают не более данного процента диска.
---dry-run
-  Проверить и вывести число новых OSD для каждого диска, но не создавать их.
 ```
 
 Опции для режима одного OSD:
@@ -101,9 +99,6 @@ vitastor-disk - инструмент командной строки для уп
 --data_device_block 4k     Задать размер блока устройства данных
 --meta_device_block 4k     Задать размер блока метаданных
 --journal_device_block 4k  Задать размер блока журнала
---discard_on_start 0       Выполнять TRIM пустых блоков данных при запуске OSD (по умолчанию нет)
---min_discard_size 1M      Минимальный размер блока для TRIM
---json                     Включить JSON-вывод
 ```
 
 Настройка [immediate_commit](../config/layout-cluster.ru.md#immediate_commit)
@@ -187,20 +182,6 @@ throttle_target_mbs, throttle_target_parallelism, throttle_threshold_us.
 `РАЗМЕР` может быть указан с суффиксами k/m/g/t. Если любой из новых параметров
 расположения не указан, он принимается равным старому значению.
 
-## trim
-
-`vitastor-disk trim <osd_num>|<osd_device> [<osd_num>|<osd_device>...]`
-
-Попробовать пометить пустые блоки дисков данных всех указанных OSD неиспользуемыми
-(выполнить команду SSD TRIM).
-
-Можно использовать только с остановленными OSD. Опции:
-
-```
---min_discard_size 1M      Минимальный размер блока для TRIM
---discard_granularity 0    Кратность размера блока для TRIM
-```
-
 ## start/stop/restart/enable/disable
 
 `vitastor-disk start|stop|restart|enable|disable [--now] <device> [device2 device3 ...]`

docs/usage/nfs.en.md

@@ -14,9 +14,6 @@ Commands:
 - [upgrade](#upgrade)
 - [defrag](#defrag)
 
-⚠️ Important: follow the instructions from [Linux NFS write size](#linux-nfs-write-size)
-for optimal Vitastor NFS performance if you use EC and HDD and mount your NFS from Linux.
-
 ## Pseudo-FS
 
 Simplified pseudo-FS proxy is used for file-based image access emulation. It's not
@@ -61,7 +58,7 @@ To use VitastorFS:
 2. Create an image for FS metadata, preferably in a faster (SSD or replica-HDD) pool,
    but you can create it in the data pool too if you want (image size doesn't matter):
    `vitastor-cli create -s 10G -p fastpool testfs`
-3. Mark data pool as an FS pool: `vitastor-cli modify-pool --used-for-app fs:testfs data-pool`
+3. Mark data pool as an FS pool: `vitastor-cli modify-pool --used-for-fs testfs data-pool`
 4. Either mount the FS: `vitastor-nfs mount --fs testfs --pool data-pool /mnt/vita`
 5. Or start the NFS server: `vitastor-nfs start --fs testfs --pool data-pool`
 
@@ -89,8 +86,6 @@ POSIX features currently not implemented in VitastorFS:
   instead of actually allocated space
 - Access times (`atime`) are not tracked (like `-o noatime`)
 - Modification time (`mtime`) is updated lazily every second (like `-o lazytime`)
-- Permission enforcement is disabled by default (and Linux NFS client doesn't
-  enforce them too). Use `--enforce 1` to enable it.
 
 Other notable missing features which should be addressed in the future:
 - Inode ID reuse. Currently inode IDs always grow, the limit is 2^48 inodes, so
@@ -105,62 +100,6 @@ Other notable missing features which should be addressed in the future:
   in the DB. The FS is implemented is such way that this garbage doesn't affect its
   function, but having a tool to clean it up still seems a right thing to do.
 
-## Linux NFS write size
-
-Linux NFS client (nfs/nfsv3/nfsv4 kernel modules) has a hard-coded maximum I/O size,
-currently set to 1 MB - see `rsize` and `wsize` in [man 5 nfs](https://linux.die.net/man/5/nfs).
-
-This means that when you write to a file in an FS mounted over NFS, the maximum write
-request size is 1 MB, even in the O_DIRECT mode and even if the original write request
-is larger.
-
-However, for optimal linear write performance in Vitastor EC (erasure-coded) pools,
-the size of write requests should be a multiple of [block_size](../config/layout-cluster.en.md#block_size),
-multiplied by the data chunk count of the pool ([pg_size](../config/pool.en.md#pg_size)-[parity_chunks](../config/pool.en.md#parity_chunks)).
-When write requests are smaller or not a multiple of this number, Vitastor has to first
-read paired data blocks from disks, calculate new parity blocks and only then write them
-back. Obviously this is 2-3 times slower than a simple disk write.
-
-Vitastor HDD setups use 1 MB block_size by default. So, for optimal performance, if
-you use EC 2+1 and HDD, you need your NFS client to send 2 MB write requests, if you
-use EC 4+1 - 4 MB and so on.
-
-But Linux NFS client only writes in 1 MB chunks. 😢
-
-The good news is that you can fix it by rebuilding Linux NFS kernel modules 😉 🤩!
-You need to change NFS_MAX_FILE_IO_SIZE in nfs_xdr.h and then rebuild and reload modules.
-
-The instruction, using Debian as an example (should be ran under root):
-
-```
-# download current Linux kernel headers required to build modules
-apt-get install linux-headers-`uname -r`
-
-# replace NFS_MAX_FILE_IO_SIZE with a desired number (here it's 4194304 - 4 MB)
-sed -i 's/NFS_MAX_FILE_IO_SIZE\s*.*/NFS_MAX_FILE_IO_SIZE\t(4194304U)/' /lib/modules/`uname -r`/source/include/linux/nfs_xdr.h
-
-# download current Linux kernel source
-mkdir linux_src
-cd linux_src
-apt-get source linux-image-`uname -r`-unsigned
-
-# build NFS modules
-cd linux-*/fs/nfs
-make -C /lib/modules/`uname -r`/build M=$PWD -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD modules_install
-
-# move default NFS modules away
-mv /lib/modules/`uname -r`/kernel/fs/nfs ~/nfs_orig_`uname -r`
-depmod -a
-
-# unload old modules and load the new ones
-rmmod nfsv3 nfs
-modprobe nfsv3
-```
-
-After these (not much complicated 🙂) manipulations NFS begins to be mounted
-with new wsize and rsize by default and it fixes Vitastor-NFS linear write performance.
-
 ## Horizontal scaling
 
 Linux NFS 3.0 client doesn't support built-in scaling or failover, i.e. you can't
@@ -260,5 +199,4 @@ Options:
 | `--nfspath <PATH>` | set NFS export path to \<PATH> (default is /)            |
 | `--pidfile <FILE>` | write process ID to the specified file                   |
 | `--logfile <FILE>` | log to the specified file                                |
-| `--enforce 1`      | enforce permissions at the server side (no by default)   |
 | `--foreground 1`   | stay in foreground, do not daemonize                     |

docs/usage/nfs.ru.md

@@ -14,9 +14,6 @@
 - [upgrade](#upgrade)
 - [defrag](#defrag)
 
-⚠️ Важно: для оптимальной производительности Vitastor NFS в Linux при использовании
-HDD и EC (erasure кодов) выполните инструкции из раздела [Размер записи Linux NFS](#размер-записи-linux-nfs).
-
 ## Псевдо-ФС
 
 Упрощённая реализация псевдо-ФС используется для эмуляции файлового доступа к блочным
@@ -63,7 +60,7 @@ JSON-формате :-). Для инспекции содержимого БД
    или по крайней мере на HDD, но без EC), но можно и в том же пуле, что данные
    (размер образа значения не имеет):
    `vitastor-cli create -s 10G -p fastpool testfs`
-3. Пометьте пул данных как ФС-пул: `vitastor-cli modify-pool --used-for-app fs:testfs data-pool`
+3. Пометьте пул данных как ФС-пул: `vitastor-cli modify-pool --used-for-fs testfs data-pool`
 4. Либо примонтируйте ФС: `vitastor-nfs mount --fs testfs --pool data-pool /mnt/vita`
 5. Либо запустите сетевой NFS-сервер: `vitastor-nfs start --fs testfs --pool data-pool`
 
@@ -91,8 +88,6 @@ JSON-формате :-). Для инспекции содержимого БД
   stat(2), так что `du` всегда показывает сумму размеров файлов, а не фактически занятое место
 - Времена доступа (`atime`) не отслеживаются (как будто ФС смонтирована с `-o noatime`)
 - Времена модификации (`mtime`) отслеживаются асинхронно (как будто ФС смонтирована с `-o lazytime`)
-- Привилегии доступа по умолчанию не проверяются сервером (клиент NFS Linux их также не проверяет).
-  Чтобы включить проверки, используйте опцию `--enforce 1`.
 
 Другие недостающие функции, которые нужно добавить в будущем:
 - Переиспользование номеров инодов. В текущей реализации номера инодов всё время
@@ -109,66 +104,6 @@ JSON-формате :-). Для инспекции содержимого БД
   записи. ФС устроена так, что на работу они не влияют, но для порядка и их стоит
   уметь подчищать.
 
-## Размер записи Linux NFS
-
-Клиент Linux NFS (модули ядра nfs/nfsv3/nfsv4) имеет фиксированный в коде максимальный
-размер запроса ввода-вывода, равный 1 МБ - см. `rsize` и `wsize` в [man 5 nfs](https://linux.die.net/man/5/nfs).
-
-Это означает, что когда вы записываете в файл в примонтированной по NFS файловой системе,
-максимальный размер запроса записи составляет 1 МБ, даже в режиме O_DIRECT и даже если
-исходный запрос записи был больше.
-
-Однако для оптимальной скорости линейной записи в Vitastor при использовании EC-пулов
-(пулов с кодами коррекции ошибок) запросы записи должны быть по размеру кратны
-[block_size](../config/layout-cluster.ru.md#block_size), умноженному на число частей
-данных пула ([pg_size](../config/pool.ru.md#pg_size)-[parity_chunks](../config/pool.ru.md#parity_chunks)).
-Если запросы записи меньше или не кратны, то Vitastor приходится сначала прочитать
-с дисков старые версии парных блоков данных, рассчитать новые блоки чётности и только
-после этого записать их на диски. Естественно, это в 2-3 раза медленнее простой записи
-на диск.
-
-При этом block_size на жёстких дисках по умолчанию устанавливается равным 1 МБ.
-Таким образом, если вы используете EC 2+1 и HDD, для оптимальной скорости записи вам
-нужно, чтобы NFS-клиент писал по 2 МБ, если EC 4+1 и HDD - то по 4 МБ, и т.п.
-
-А Linux NFS-клиент пишет только по 1 МБ. 😢
-
-Но это можно исправить, пересобрав модули ядра Linux NFS 😉 🤩! Для этого нужно
-поменять значение переменной NFS_MAX_FILE_IO_SIZE в заголовочном файле nfs_xdr.h,
-после чего пересобрать модули NFS.
-
-Инструкция по пересборке на примере Debian (выполнять под root):
-
-```
-# скачиваем заголовки для сборки модулей для текущего ядра Linux
-apt-get install linux-headers-`uname -r`
-
-# заменяем в заголовках NFS_MAX_FILE_IO_SIZE на желаемый (здесь 4194304 - 4 МБ)
-sed -i 's/NFS_MAX_FILE_IO_SIZE\s*.*/NFS_MAX_FILE_IO_SIZE\t(4194304U)/' /lib/modules/`uname -r`/source/include/linux/nfs_xdr.h
-
-# скачиваем исходный код текущего ядра
-mkdir linux_src
-cd linux_src
-apt-get source linux-image-`uname -r`-unsigned
-
-# собираем модули NFS
-cd linux-*/fs/nfs
-make -C /lib/modules/`uname -r`/build M=$PWD -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD modules_install
-
-# убираем в сторону штатные модули NFS
-mv /lib/modules/`uname -r`/kernel/fs/nfs ~/nfs_orig_`uname -r`
-depmod -a
-
-# выгружаем старые модули и загружаем новые
-rmmod nfsv3 nfs
-modprobe nfsv3
-```
-
-После такой (относительно нехитрой 🙂) манипуляции NFS начинает по умолчанию
-монтироваться с новыми wsize и rsize, и производительность линейной записи в Vitastor-NFS
-исправляется.
-
 ## Горизонтальное масштабирование
 
 Клиент Linux NFS 3.0 не поддерживает встроенное масштабирование или отказоустойчивость.
@@ -272,5 +207,4 @@ VitastorFS из GPUDirect.
 | `--nfspath <PATH>` | установить путь NFS-экспорта в \<PATH> (по умолчанию /) |
 | `--pidfile <FILE>` | записать ID процесса в заданный файл                    |
 | `--logfile <FILE>` | записывать логи в заданный файл                         |
-| `--enforce 1`      | проверять права доступа на стороне сервера (по умолчанию нет) |
 | `--foreground 1`   | не уходить в фон после запуска                          |

docs/usage/qemu.en.md

@@ -130,16 +130,23 @@ Linux kernel, starting with version 5.15, supports a new interface for attaching
 to the host - VDUSE (vDPA Device in Userspace). QEMU, starting with 7.2, has support for
 exporting QEMU block devices over this protocol using qemu-storage-daemon.
 
-VDUSE advantages:
-
-- VDUSE copies memory 1 time instead of 2, and is thus faster than [NBD](nbd.en.md) for linear read/write.
-- It doesn't have NBD timeout problem - the device doesn't die if an operation executes for too long.
+VDUSE is currently the best interface to attach Vitastor disks as kernel devices because:
+- It avoids data copies and thus achieves much better performance than [NBD](nbd.en.md)
+- It doesn't have NBD timeout problem - the device doesn't die if an operation executes for too long
 - It doesn't have hung device problem - if the userspace process dies it can be restarted (!)
-  and block device will continue operation (UBLK can do it too).
-- It doesn't seem to have the device number limit (UBLK also doesn't).
+  and block device will continue operation
+- It doesn't seem to have the device number limit
 
-At the same time, VDUSE may be slower or faster than [UBLK](ublk.en.md) for linear read/write,
-and iops-wise it's sometimes even slower than NBD. See performance comparison examples at the page [UBLK](ublk.en.md).
+Example performance comparison:
+
+|                      | direct fio  | NBD         | VDUSE       |
+|----------------------|-------------|-------------|-------------|
+| linear write         | 3.85 GB/s   | 1.12 GB/s   | 3.85 GB/s   |
+| 4k random write Q128 | 240000 iops | 120000 iops | 178000 iops |
+| 4k random write Q1   | 9500 iops   | 7620 iops   | 7640 iops   |
+| linear read          | 4.3 GB/s    | 1.8 GB/s    | 2.85 GB/s   |
+| 4k random read Q128  | 287000 iops | 140000 iops | 189000 iops |
+| 4k random read Q1    | 9600 iops   | 7640 iops   | 7780 iops   |
 
 To try VDUSE you need at least Linux 5.15, built with VDUSE support
 (CONFIG_VDPA=m, CONFIG_VDPA_USER=m, CONFIG_VIRTIO_VDPA=m).
@@ -155,12 +162,10 @@ apt-get install linux-headers-`uname -r`
 apt-get build-dep linux-image-`uname -r`-unsigned
 apt-get source linux-image-`uname -r`-unsigned
 cd linux*/drivers/vdpa
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m modules_install
+make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules modules_install
 cat Module.symvers >> /lib/modules/`uname -r`/build/Module.symvers
 cd ../virtio
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m modules_install
+make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules modules_install
 depmod -a
 ```
 
@@ -186,12 +191,3 @@ To remove the device:
 vdpa dev del test1
 kill <qemu-storage-daemon_process_PID>
 ```
-
-## Veeam
-
-Vitastor QEMU driver has a feature that allows to trick third-party systems like Veeam not able to parse qemu-img
-vitastor URIs: [qemu_file_mirror_path](../config/client.en.md#qemu_file_mirror_path).
-
-To make such systems work, you should set this option to an FS directory path (for example, `/mnt/vitastor/`) and
-mount this directory using [`vitastor-nfs mount --block`](../usage/nfs.en.md). It will make them access
-your images using files and, hopefully, succeed in doing their normal job :).

docs/usage/qemu.ru.md

@@ -132,16 +132,24 @@ qemu-system-x86_64 -enable-kvm -m 2048 -M accel=kvm,memory-backend=mem \
 к системе - VDUSE (vDPA Device in Userspace), а в QEMU, начиная с версии 7.2, есть поддержка
 экспорта блочных устройств QEMU по этому протоколу через qemu-storage-daemon.
 
-Преимущества VDUSE:
+VDUSE - на данный момент лучший интерфейс для подключения дисков Vitastor в виде блочных
+устройств на уровне ядра, ибо:
+- VDUSE не копирует данные и поэтому достигает значительно лучшей производительности, чем [NBD](nbd.ru.md)
+- Также оно не имеет проблемы NBD-таймаута - устройство не умирает, если операция выполняется слишком долго
+- Также оно не имеет проблемы подвисающих устройств - если процесс-обработчик умирает, его можно
+  перезапустить (!) и блочное устройство продолжит работать
+- По-видимому, у него нет предела числа подключаемых в систему устройств
 
-- VDUSE копирует данные 1 раз, а не 2, и поэтому он быстрее, чем [NBD](nbd.ru.md) при линейном доступе.
-- VDUSE не имеет проблемы NBD-таймаута - устройство не умирает, если операция выполняется слишком долго.
-- VDUSE не имеет проблемы подвисающих устройств - если процесс-обработчик умирает, его можно
-  перезапустить (!) и блочное устройство продолжит работать (в UBLK это тоже поддерживается).
-- По-видимому, у него нет предела числа подключаемых в систему устройств (в UBLK лимита тоже нет).
+Пример сравнения производительности:
 
-Однако, при линейном доступе VDUSE может быть медленнее UBLK (а может быть и быстрее), а по iops
-VDUSE иногда даже медленнее NBD. Пример сравнения производительности смотрите на странице [UBLK](ublk.ru.md).
+|                          | Прямой fio  | NBD         | VDUSE       |
+|--------------------------|-------------|-------------|-------------|
+| линейная запись          | 3.85 GB/s   | 1.12 GB/s   | 3.85 GB/s   |
+| 4k случайная запись Q128 | 240000 iops | 120000 iops | 178000 iops |
+| 4k случайная запись Q1   | 9500 iops   | 7620 iops   | 7640 iops   |
+| линейное чтение          | 4.3 GB/s    | 1.8 GB/s    | 2.85 GB/s   |
+| 4k случайное чтение Q128 | 287000 iops | 140000 iops | 189000 iops |
+| 4k случайное чтение Q1   | 9600 iops   | 7640 iops   | 7780 iops   |
 
 Чтобы попробовать VDUSE, вам нужно ядро Linux как минимум версии 5.15, собранное с поддержкой
 VDUSE (CONFIG_VDPA=m, CONFIG_VDPA_USER=m, CONFIG_VIRTIO_VDPA=m).
@@ -157,12 +165,10 @@ apt-get install linux-headers-`uname -r`
 apt-get build-dep linux-image-`uname -r`-unsigned
 apt-get source linux-image-`uname -r`-unsigned
 cd linux*/drivers/vdpa
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m modules_install
+make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules modules_install
 cat Module.symvers >> /lib/modules/`uname -r`/build/Module.symvers
 cd ../virtio
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules
-make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m modules_install
+make -C /lib/modules/`uname -r`/build M=$PWD CONFIG_VDPA=m CONFIG_VDPA_USER=m CONFIG_VIRTIO_VDPA=m -j8 modules modules_install
 depmod -a
 ```
 
@@ -188,12 +194,3 @@ vdpa dev add name test1 mgmtdev vduse
 vdpa dev del test1
 kill <PID_процесса_qemu-storage-daemon>
 ```
-
-## Veeam
-
-Драйвер Vitastor QEMU имеет функцию, которая позволяет обманывать сторонние системы типа Veeam, которые
-не могут сами по себе разобрать адреса дисков в vitastor: [qemu_file_mirror_path](../config/client.ru.md#qemu_file_mirror_path).
-
-Чтобы заставить такие системы работать, вам нужно установить эту опцию равной пути к некоторому каталогу
-в ФС (например, `/mnt/vitastor/`) и примонтировать этот каталог с помощью [`vitastor-nfs mount --block`](../usage/nfs.ru.md).
-Они начнут обращаться к образам как к файлам и, вероятно, смогут заработать корректно :).

docs/usage/ublk.en.md

@@ -1,116 +0,0 @@
-[Documentation](../../README.md#documentation) → Usage → UBLK
-
------
-
-[Читать на русском](ublk.ru.md)
-
-# UBLK
-
-[ublk](https://docs.kernel.org/block/ublk.html) is a new io_uring-based Linux interface
-for user-space block device drivers, available since Linux 6.0.
-
-It's not zero-copy, but it's still a fast implementation, outperforming both [NBD](nbd.en.md)
-and [VDUSE](qemu.en.md#vduse) iops-wise and may or may not outperform VDUSE in linear I/O MB/s.
-ublk also allows to recover devices even if the server (vitastor-ublk process) dies.
-
-## Example performance comparison
-
-TCP (100G), 3 hosts each with 6 NVMe OSDs, 3 replicas, single client
-
-|                      | direct fio  | NBD         | VDUSE      | UBLK        |
-|----------------------|-------------|-------------|------------|-------------|
-| linear write         | 3807 MB/s   | 1832 MB/s   | 3226 MB/s  | 3027 MB/s   |
-| linear read          | 3067 MB/s   | 1885 MB/s   | 1800 MB/s  | 2076 MB/s   |
-| 4k random write Q128 | 128624 iops | 91060 iops  | 94621 iops | 149450 iops |
-| 4k random read Q128  | 117769 iops | 153408 iops | 93157 iops | 171987 iops |
-| 4k random write Q1   | 8090 iops   | 6442 iops   | 6316 iops  | 7272 iops   |
-| 4k random read Q1    | 9474 iops   | 7200 iops   | 6840 iops  | 8038 iops   |
-
-RDMA (100G), 3 hosts each with 6 NVMe OSDs, 3 replicas, single client
-
-|                      | direct fio  | NBD         | VDUSE       | UBLK        |
-|----------------------|-------------|-------------|-------------|-------------|
-| linear write         | 6998 MB/s   | 1878 MB/s   | 4249 MB/s   | 3140 MB/s   |
-| linear read          | 8628 MB/s   | 3389 MB/s   | 5062 MB/s   | 3674 MB/s   |
-| 4k random write Q128 | 222541 iops | 181589 iops | 138281 iops | 218222 iops |
-| 4k random read Q128  | 412647 iops | 239987 iops | 151663 iops | 269583 iops |
-| 4k random write Q1   | 11601 iops  | 8592 iops   | 9111 iops   | 10000 iops  |
-| 4k random read Q1    | 10102 iops  | 7788 iops   | 8111 iops   | 8965 iops   |
-
-## Commands
-
-vitastor-ublk supports the following commands:
-
-- [map](#map)
-- [unmap](#unmap)
-- [ls](#ls)
-
-## map
-
-To create a local block device for a Vitastor image run:
-
-```
-vitastor-ublk map [/dev/ublkbN] --image testimg
-```
-
-It will output a block device name like /dev/ublkb0 which you can then use as a normal disk.
-
-You can also use `--pool <POOL> --inode <INODE> --size <SIZE>` instead of `--image <IMAGE>` if you want.
-
-vitastor-ublk supports all usual Vitastor configuration options like `--config_path <path_to_config>` plus ublk-specific:
-
-* `--recover` \
-  Recover a mapped device if the previous ublk server is dead.
-* `--queue_depth 256` \
-  Maximum queue size for the device.
-* `--max_io_size 1M` \
-  Maximum single I/O size for the device. Default: `max(1 MB, pool block size * EC part count)`.
-* `--readonly` \
-  Make the device read-only.
-* `--hdd` \
-  Mark the device as rotational.
-* `--logfile /path/to/log/file.txt` \
-  Write log messages to the specified file instead of dropping them (in background mode)
-  or printing them to the standard output (in foreground mode).
-* `--dev_num N` \
-  Use the specified device /dev/ublkbN instead of automatic selection (alternative syntax
-  to /dev/ublkbN positional parameter).
-* `--foreground 1` \
-  Stay in foreground, do not daemonize.
-
-Note that `ublk_queue_depth` and `ublk_max_io_size` may also be specified
-in `/etc/vitastor/vitastor.conf` or in other configuration file specified with `--config_path`.
-
-## unmap
-
-To unmap the device run:
-
-```
-vitastor-ublk unmap /dev/ublkb0
-```
-
-## ls
-
-```
-vitastor-ublk ls [--json]
-```
-
-List mapped images.
-
-Example output (normal format):
-
-```
-/dev/ublkb0
-image: bench
-pid: 584536
-
-/dev/ublkb1
-image: bench1
-pid: 584546
-```
-
-Example output (JSON format):
-
-```
-{"/dev/ublkb0": {"image": "bench", "pid": 584536}, "/dev/ublkb1": {"image": "bench1", "pid": 584546}}
-```

docs/usage/ublk.ru.md

@@ -1,121 +0,0 @@
-[Документация](../../README-ru.md#документация) → Использование → UBLK
-
------
-
-[Read in English](ublk.en.md)
-
-# UBLK
-
-[ublk](https://docs.kernel.org/block/ublk.html) - это новый Linux-интерфейс на основе io_uring
-для реализации блочных устройств в пространстве пользователя, доступный, начиная с Linux 6.0.
-
-ublk тоже копирует память (т.е. не является zero-copy), но по IOPS всё равно обгоняет и
-[NBD](nbd.ru.md), и [VDUSE](qemu.ru.md#vduse), и иногда может даже обгонять VDUSE по
-скорости линейного доступа. Также ublk позволяет оживлять устройства, у которых умер
-сервер (процесс-обработчик vitastor-ublk).
-
-## Пример сравнения производительности
-
-TCP (100G), 3 сервера с 6 NVMe OSD каждый, 3 реплики, один клиент
-
-|                          | Прямой fio  | NBD         | VDUSE      | UBLK        |
-|--------------------------|-------------|-------------|------------|-------------|
-| линейная запись          | 3807 MB/s   | 1832 MB/s   | 3226 MB/s  | 3027 MB/s   |
-| линейное чтение          | 3067 MB/s   | 1885 MB/s   | 1800 MB/s  | 2076 MB/s   |
-| 4k случайная запись Q128 | 128624 iops | 91060 iops  | 94621 iops | 149450 iops |
-| 4k случайное чтение Q128 | 117769 iops | 153408 iops | 93157 iops | 171987 iops |
-| 4k случайная запись Q1   | 8090 iops   | 6442 iops   | 6316 iops  | 7272 iops   |
-| 4k случайное чтение Q1   | 9474 iops   | 7200 iops   | 6840 iops  | 8038 iops   |
-
-RDMA (100G), 3 сервера с 6 NVMe OSD каждый, 3 реплики, один клиент
-
-|                          | Прямой fio  | NBD         | VDUSE       | UBLK        |
-|--------------------------|-------------|-------------|-------------|-------------|
-| линейная запись          | 6998 MB/s   | 1878 MB/s   | 4249 MB/s   | 3140 MB/s   |
-| линейное чтение          | 8628 MB/s   | 3389 MB/s   | 5062 MB/s   | 3674 MB/s   |
-| 4k случайная запись Q128 | 222541 iops | 181589 iops | 138281 iops | 218222 iops |
-| 4k случайное чтение Q128 | 412647 iops | 239987 iops | 151663 iops | 269583 iops |
-| 4k случайная запись Q1   | 11601 iops  | 8592 iops   | 9111 iops   | 10000 iops  |
-| 4k случайное чтение Q1   | 10102 iops  | 7788 iops   | 8111 iops   | 8965 iops   |
-
-## Команды
-
-vitastor-ublk поддерживает следующие команды:
-
-- [map](#map)
-- [unmap](#unmap)
-- [ls](#ls)
-
-## map
-
-Чтобы создать локальное блочное устройство для образа, выполните команду:
-
-```
-vitastor-ublk map [/dev/ublkbN] --image testimg
-```
-
-Команда напечатает название блочного устройства вида /dev/ublkb0, которое потом можно
-будет использовать как обычный диск.
-
-Для обращения по номеру инода, аналогично другим командам, можно использовать опции
-`--pool <POOL> --inode <INODE> --size <SIZE>` вместо `--image testimg`.
-
-vitastor-ublk поддерживает все обычные опции Vitastor, например, `--config_path <path_to_config>`,
-плюс специфичные для ublk:
-
-* `--recover` \
-  Восстановить ранее подключённое устройство, у которого умер обработчик.
-* `--queue_depth 256` \
-  Максимальная глубина очереди устройства.
-* `--max_io_size 1M` \
-  Максимальный размер запроса ввода-вывода для устройства. По умолчанию: `max(1 MB, блок данных пула * число частей данных EC)`.
-* `--readonly` \
-  Подключить устройство в режиме только для чтения.
-* `--hdd` \
-  Пометить устройство как вращающийся жёсткий диск (флаг rotational).
-* `--logfile /path/to/log/file.txt` \
-  Писать сообщения о процессе работы в заданный файл, вместо пропуска их
-  при фоновом режиме запуска или печати на стандартный вывод при запуске
-  в консоли с `--foreground 1`.
-* `--dev_num N` \
-  Использовать заданное устройство `/dev/ublkbN` вместо автоматического подбора.
-* `--foreground 1` \
-  Не уводить процесс в фоновый режим.
-
-Обратите внимание, что опции `ublk_queue_depth` и `ublk_max_io_size` можно
-также задавать в `/etc/vitastor/vitastor.conf` или в другом файле конфигурации,
-заданном опцией `--config_path`.
-
-## unmap
-
-Для отключения устройства выполните:
-
-```
-vitastor-ublk unmap /dev/ublkb0
-```
-
-## ls
-
-```
-vitastor-ublk ls [--json]
-```
-
-Вывести подключённые устройства.
-
-Пример вывода в обычном формате:
-
-```
-/dev/ublkb0
-image: bench
-pid: 584536
-
-/dev/ublkb1
-image: bench1
-pid: 584546
-```
-
-Пример вывода в JSON-формате:
-
-```
-{"/dev/ublkb0": {"image": "bench", "pid": 584536}, "/dev/ublkb1": {"image": "bench1", "pid": 584546}}
-```

mon/lp_optimizer/dsl_pgs.js

@@ -253,7 +253,7 @@ function random_custom_combinations(osd_tree, rules, count, ordered)
         for (let i = 1; i < rules.length; i++)
         {
             const filtered = filter_tree_by_rules(osd_tree, rules[i], selected);
-            const idx = select_murmur3(filtered.length, i => 'p:'+f.id+':'+(filtered[i].name || filtered[i].id));
+            const idx = select_murmur3(filtered.length, i => 'p:'+f.id+':'+filtered[i].id);
             selected.push(idx == null ? { levels: {}, id: null } : filtered[idx]);
         }
         const size = selected.filter(s => s.id !== null).length;
@@ -270,7 +270,7 @@ function random_custom_combinations(osd_tree, rules, count, ordered)
         for (const item_rules of rules)
         {
             const filtered = selected.length ? filter_tree_by_rules(osd_tree, item_rules, selected) : first;
-            const idx = select_murmur3(filtered.length, i => n+':'+(filtered[i].name || filtered[i].id));
+            const idx = select_murmur3(filtered.length, i => n+':'+filtered[i].id);
             selected.push(idx == null ? { levels: {}, id: null } : filtered[idx]);
         }
         const size = selected.filter(s => s.id !== null).length;
@@ -340,9 +340,9 @@ function filter_tree_by_rules(osd_tree, rules, selected)
 }
 
 // Convert from
-// node_list = { id: string|number, name?: string, level: string, size?: number, parent?: string|number }[]
+// node_list = { id: string|number, level: string, size?: number, parent?: string|number }[]
 // to
-// node_tree = { [node_id]: { id, name?, level, size?, parent?, children?: child_node[], levels: { [level]: id, ... } } }
+// node_tree = { [node_id]: { id, level, size?, parent?, children?: child_node_id[], levels: { [level]: id, ... } } }
 function index_tree(node_list)
 {
     const tree = { '': { children: [], levels: {} } };
@@ -357,7 +357,7 @@ function index_tree(node_list)
         tree[parent_id].children = tree[parent_id].children || [];
         tree[parent_id].children.push(tree[node.id]);
     }
-    const cur = [ ...tree[''].children ];
+    const cur = tree[''].children;
     for (let i = 0; i < cur.length; i++)
     {
         cur[i].levels[cur[i].level] = cur[i].id;

mon/lp_optimizer/fold.js

@@ -1,244 +0,0 @@
-// Copyright (c) Vitaliy Filippov, 2019+
-// License: VNPL-1.1 (see README.md for details)
-
-// Extract OSDs from the lowest affected tree level into a separate (flat) map
-// to run PG optimisation on failure domains instead of individual OSDs
-//
-// node_list = same input as for index_tree()
-// rules = [ level, operator, value ][][]
-// returns { nodes: new_node_list, leaves: { new_folded_node_id: [ extracted_leaf_nodes... ] } }
-function fold_failure_domains(node_list, rules)
-{
-    const interest = {};
-    for (const level_rules of rules)
-    {
-        for (const rule of level_rules)
-            interest[rule[0]] = true;
-    }
-    const max_numeric_id = node_list.reduce((a, c) => a < (0|c.id) ? (0|c.id) : a, 0);
-    let next_id = max_numeric_id;
-    const node_map = node_list.reduce((a, c) => { a[c.id||''] = c; return a; }, {});
-    const old_ids_by_new = {};
-    const extracted_nodes = {};
-    let folded = true;
-    while (folded)
-    {
-        const per_parent = {};
-        for (const node_id in node_map)
-        {
-            const node = node_map[node_id];
-            const p = node.parent || '';
-            per_parent[p] = per_parent[p]||[];
-            per_parent[p].push(node);
-        }
-        folded = false;
-        for (const node_id in per_parent)
-        {
-            const fold_node = node_id !== '' && per_parent[node_id].length > 0 && per_parent[node_id].filter(child => per_parent[child.id||''] || interest[child.level]).length == 0;
-            if (fold_node)
-            {
-                const old_node = node_map[node_id];
-                const new_id = ++next_id;
-                node_map[new_id] = {
-                    ...old_node,
-                    id: new_id,
-                    name: node_id, // for use in murmur3 hashes
-                    size: per_parent[node_id].reduce((a, c) => a + (Number(c.size)||0), 0),
-                };
-                delete node_map[node_id];
-                old_ids_by_new[new_id] = node_id;
-                extracted_nodes[new_id] = [];
-                for (const child of per_parent[node_id])
-                {
-                    if (old_ids_by_new[child.id])
-                    {
-                        extracted_nodes[new_id].push(...extracted_nodes[child.id]);
-                        delete extracted_nodes[child.id];
-                    }
-                    else
-                        extracted_nodes[new_id].push(child);
-                    delete node_map[child.id];
-                }
-                folded = true;
-            }
-        }
-    }
-    return { nodes: Object.values(node_map), leaves: extracted_nodes };
-}
-
-// Distribute PGs mapped to "folded" nodes to individual OSDs according to their weights
-// folded_pgs = optimize_result.int_pgs before folding
-// prev_pgs = optional previous PGs from optimize_change() input
-// extracted_nodes = output from fold_failure_domains
-function unfold_failure_domains(folded_pgs, prev_pgs, extracted_nodes)
-{
-    const maps = {};
-    let found = false;
-    for (const new_id in extracted_nodes)
-    {
-        const weights = {};
-        for (const sub_node of extracted_nodes[new_id])
-        {
-            weights[sub_node.id] = sub_node.size;
-        }
-        maps[new_id] = { weights, prev: [], next: [], pos: 0 };
-        found = true;
-    }
-    if (!found)
-    {
-        return folded_pgs;
-    }
-    for (let i = 0; i < folded_pgs.length; i++)
-    {
-        for (let j = 0; j < folded_pgs[i].length; j++)
-        {
-            if (maps[folded_pgs[i][j]])
-            {
-                maps[folded_pgs[i][j]].prev.push(prev_pgs && prev_pgs[i] && prev_pgs[i][j] || 0);
-            }
-        }
-    }
-    for (const new_id in maps)
-    {
-        maps[new_id].next = adjust_distribution(maps[new_id].weights, maps[new_id].prev);
-    }
-    const mapped_pgs = [];
-    for (let i = 0; i < folded_pgs.length; i++)
-    {
-        mapped_pgs.push(folded_pgs[i].map(osd => (maps[osd] ? maps[osd].next[maps[osd].pos++] : osd)));
-    }
-    return mapped_pgs;
-}
-
-// Return the new array of items re-distributed as close as possible to weights in wanted_weights
-// wanted_weights = { [key]: weight }
-// cur_items = key[]
-function adjust_distribution(wanted_weights, cur_items)
-{
-    const item_map = {};
-    for (let i = 0; i < cur_items.length; i++)
-    {
-        const item = cur_items[i];
-        item_map[item] = (item_map[item] || { target: 0, cur: [] });
-        item_map[item].cur.push(i);
-    }
-    let total_weight = 0;
-    for (const item in wanted_weights)
-    {
-        total_weight += Number(wanted_weights[item]) || 0;
-    }
-    for (const item in wanted_weights)
-    {
-        const weight = wanted_weights[item] / total_weight * cur_items.length;
-        if (weight > 0)
-        {
-            item_map[item] = (item_map[item] || { target: 0, cur: [] });
-            item_map[item].target = weight;
-        }
-    }
-    const diff = (item) => (item_map[item].cur.length - item_map[item].target);
-    const most_underweighted = Object.keys(item_map)
-        .filter(item => item_map[item].target > 0)
-        .sort((a, b) => diff(a) - diff(b));
-    // Items with zero target weight MUST never be selected - remove them
-    // and remap each of them to a most underweighted item
-    for (const item in item_map)
-    {
-        if (!item_map[item].target)
-        {
-            const prev = item_map[item];
-            delete item_map[item];
-            for (const idx of prev.cur)
-            {
-                const move_to = most_underweighted[0];
-                item_map[move_to].cur.push(idx);
-                move_leftmost(most_underweighted, diff);
-            }
-        }
-    }
-    // Other over-weighted items are only moved if it improves the distribution
-    while (most_underweighted.length > 1)
-    {
-        const first = most_underweighted[0];
-        const last = most_underweighted[most_underweighted.length-1];
-        const first_diff = diff(first);
-        const last_diff = diff(last);
-        if (Math.abs(first_diff+1)+Math.abs(last_diff-1) < Math.abs(first_diff)+Math.abs(last_diff))
-        {
-            item_map[first].cur.push(item_map[last].cur.pop());
-            move_leftmost(most_underweighted, diff);
-            move_rightmost(most_underweighted, diff);
-        }
-        else
-        {
-            break;
-        }
-    }
-    const new_items = new Array(cur_items.length);
-    for (const item in item_map)
-    {
-        for (const idx of item_map[item].cur)
-        {
-            new_items[idx] = item;
-        }
-    }
-    return new_items;
-}
-
-function move_leftmost(sorted_array, diff)
-{
-    // Re-sort by moving the leftmost item to the right if it changes position
-    const first = sorted_array[0];
-    const new_diff = diff(first);
-    let r = 0;
-    while (r < sorted_array.length-1 && diff(sorted_array[r+1]) <= new_diff)
-        r++;
-    if (r > 0)
-    {
-        for (let i = 0; i < r; i++)
-            sorted_array[i] = sorted_array[i+1];
-        sorted_array[r] = first;
-    }
-}
-
-function move_rightmost(sorted_array, diff)
-{
-    // Re-sort by moving the rightmost item to the left if it changes position
-    const last = sorted_array[sorted_array.length-1];
-    const new_diff = diff(last);
-    let r = sorted_array.length-1;
-    while (r > 0 && diff(sorted_array[r-1]) > new_diff)
-        r--;
-    if (r < sorted_array.length-1)
-    {
-        for (let i = sorted_array.length-1; i > r; i--)
-            sorted_array[i] = sorted_array[i-1];
-        sorted_array[r] = last;
-    }
-}
-
-// map previous PGs to folded nodes
-function fold_prev_pgs(pgs, extracted_nodes)
-{
-    const unmap = {};
-    for (const new_id in extracted_nodes)
-    {
-        for (const sub_node of extracted_nodes[new_id])
-        {
-            unmap[sub_node.id] = new_id;
-        }
-    }
-    const mapped_pgs = [];
-    for (let i = 0; i < pgs.length; i++)
-    {
-        mapped_pgs.push(pgs[i].map(osd => (unmap[osd] || osd)));
-    }
-    return mapped_pgs;
-}
-
-module.exports = {
-    fold_failure_domains,
-    unfold_failure_domains,
-    adjust_distribution,
-    fold_prev_pgs,
-};

mon/lp_optimizer/lp_optimizer.js

@@ -98,7 +98,6 @@ async function optimize_initial({ osd_weights, combinator, pg_count, pg_size = 3
         score: lp_result.score,
         weights: lp_result.vars,
         int_pgs,
-        pg_effsize,
         space: eff * pg_effsize,
         total_space: total_weight,
     };
@@ -410,7 +409,6 @@ async function optimize_change({ prev_pgs: prev_int_pgs, osd_weights, combinator
         int_pgs: new_pgs,
         differs,
         osd_differs,
-        pg_effsize,
         space: pg_effsize * pg_list_space_efficiency(new_pgs, osd_weights, pg_minsize, parity_space),
         total_space: total_weight,
     };

mon/lp_optimizer/test-optimize-fold.js

@@ -1,108 +0,0 @@
-// Copyright (c) Vitaliy Filippov, 2019+
-// License: VNPL-1.1 (see README.md for details)
-
-const assert = require('assert');
-const { fold_failure_domains, unfold_failure_domains, adjust_distribution } = require('./fold.js');
-const DSL = require('./dsl_pgs.js');
-const LPOptimizer = require('./lp_optimizer.js');
-const stableStringify = require('../stable-stringify.js');
-
-async function run()
-{
-    // Test run adjust_distribution
-    console.log('adjust_distribution');
-    const rand = [];
-    for (let i = 0; i < 100; i++)
-    {
-        rand.push(1 + Math.floor(10*Math.random()));
-        // or rand.push(0);
-    }
-    const adj = adjust_distribution({ 1: 1, 2: 1, 3: 1, 4: 1, 5: 1, 6: 1, 7: 1, 8: 1, 9: 1, 10: 1 }, rand);
-    //console.log(rand.join(' '));
-    console.log(rand.reduce((a, c) => { a[c] = (a[c]||0)+1; return a; }, {}));
-    //console.log(adj.join(' '));
-    console.log(adj.reduce((a, c) => { a[c] = (a[c]||0)+1; return a; }, {}));
-    console.log('Movement: '+rand.reduce((a, c, i) => a+(rand[i] != adj[i] ? 1 : 0), 0)+'/'+rand.length);
-
-    console.log('\nfold_failure_domains');
-    console.log(JSON.stringify(fold_failure_domains(
-        [
-            { id: 1,       level: 'osd',  size: 1, parent: 'disk1' },
-            { id: 2,       level: 'osd',  size: 2, parent: 'disk1' },
-            { id: 'disk1', level: 'disk', parent: 'host1' },
-            { id: 'host1', level: 'host', parent: 'dc1' },
-            { id: 'dc1',   level: 'dc' },
-        ],
-        [ [ [ 'dc' ], [ 'host' ] ] ]
-    ), 0, 2));
-
-    console.log('\nfold_failure_domains empty rules');
-    console.log(JSON.stringify(fold_failure_domains(
-        [
-            { id: 1,       level: 'osd',  size: 1, parent: 'disk1' },
-            { id: 2,       level: 'osd',  size: 2, parent: 'disk1' },
-            { id: 'disk1', level: 'disk', parent: 'host1' },
-            { id: 'host1', level: 'host', parent: 'dc1' },
-            { id: 'dc1',   level: 'dc' },
-        ],
-        []
-    ), 0, 2));
-
-    console.log('\noptimize_folded');
-    // 5 DCs, 2 hosts per DC, 10 OSD per host
-    const nodes = [];
-    for (let i = 1; i <= 100; i++)
-    {
-        nodes.push({ id: i, level: 'osd', size: 1, parent: 'host'+(1+(0|((i-1)/10))) });
-    }
-    for (let i = 1; i <= 10; i++)
-    {
-        nodes.push({ id: 'host'+i, level: 'host', parent: 'dc'+(1+(0|((i-1)/2))) });
-    }
-    for (let i = 1; i <= 5; i++)
-    {
-        nodes.push({ id: 'dc'+i, level: 'dc' });
-    }
-
-    // Check rules
-    const rules = DSL.parse_level_indexes({ dc: '112233', host: '123456' }, [ 'dc', 'host', 'osd' ]);
-    assert.deepEqual(rules, [[],[["dc","=",1],["host","!=",[1]]],[["dc","!=",[1]]],[["dc","=",3],["host","!=",[3]]],[["dc","!=",[1,3]]],[["dc","=",5],["host","!=",[5]]]]);
-
-    // Check tree folding
-    const { nodes: folded_nodes, leaves: folded_leaves } = fold_failure_domains(nodes, rules);
-    const expected_folded = [];
-    const expected_leaves = {};
-    for (let i = 1; i <= 10; i++)
-    {
-        expected_folded.push({ id: 100+i, name: 'host'+i, level: 'host', size: 10, parent: 'dc'+(1+(0|((i-1)/2))) });
-        expected_leaves[100+i] = [ ...new Array(10).keys() ].map(k => ({ id: 10*(i-1)+k+1, level: 'osd', size: 1, parent: 'host'+i }));
-    }
-    for (let i = 1; i <= 5; i++)
-    {
-        expected_folded.push({ id: 'dc'+i, level: 'dc' });
-    }
-    assert.equal(stableStringify(folded_nodes), stableStringify(expected_folded));
-    assert.equal(stableStringify(folded_leaves), stableStringify(expected_leaves));
-
-    // Now optimise it
-    console.log('1000 PGs, EC 112233');
-    const leaf_weights = folded_nodes.reduce((a, c) => { if (Number(c.id)) { a[c.id] = c.size; } return a; }, {});
-    let res = await LPOptimizer.optimize_initial({
-        osd_weights: leaf_weights,
-        combinator: new DSL.RuleCombinator(folded_nodes, rules, 10000, false),
-        pg_size: 6,
-        pg_count: 1000,
-        ordered: false,
-    });
-    LPOptimizer.print_change_stats(res, false);
-    assert.equal(res.space, 100, 'Initial distribution');
-
-    const unfolded_res = { ...res };
-    unfolded_res.int_pgs = unfold_failure_domains(res.int_pgs, null, folded_leaves);
-    const osd_weights = nodes.reduce((a, c) => { if (Number(c.id)) { a[c.id] = c.size; } return a; }, {});
-    unfolded_res.space = unfolded_res.pg_effsize * LPOptimizer.pg_list_space_efficiency(unfolded_res.int_pgs, osd_weights, 0, 1);
-    LPOptimizer.print_change_stats(unfolded_res, false);
-    assert.equal(res.space, 100, 'Initial distribution');
-}
-
-run().catch(console.error);

mon/mon.js

@@ -96,7 +96,6 @@ class Mon
                     }
                     else
                     {
-                        res.setHeader('Content-Type', 'text/plain; version=0.0.4; charset=utf-8');
                         res.write(export_prometheus_metrics(this.state));
                     }
                 }

mon/osd_tree.js

@@ -15,7 +15,7 @@ function get_osd_tree(global_config, state)
         const stat = state.osd.stats[osd_num];
         const osd_cfg = state.config.osd[osd_num];
         let reweight = osd_cfg == null ? 1 : Number(osd_cfg.reweight);
-        if (isNaN(reweight) || reweight < 0 || reweight > 1)
+        if (reweight < 0 || isNaN(reweight))
             reweight = 1;
         if (stat && stat.size && reweight && (state.osd.state[osd_num] || Number(stat.time) >= down_time ||
             osd_cfg && osd_cfg.noout))
@@ -87,7 +87,7 @@ function make_hier_tree(global_config, tree)
     tree[''] = { children: [] };
     for (const node_id in tree)
     {
-        if (node_id === '' || !(tree[node_id].children||[]).length && (tree[node_id].size||0) <= 0)
+        if (node_id === '' || tree[node_id].level === 'osd' && (!tree[node_id].size || tree[node_id].size <= 0))
         {
             continue;
         }
@@ -107,10 +107,10 @@ function make_hier_tree(global_config, tree)
         deleted = 0;
         for (const node_id in tree)
         {
-            if (!(tree[node_id].children||[]).length && (tree[node_id].size||0) <= 0)
+            if (tree[node_id].level !== 'osd' && (!tree[node_id].children || !tree[node_id].children.length))
             {
                 const parent = tree[node_id].parent;
-                if (parent && tree[parent])
+                if (parent)
                 {
                     tree[parent].children = tree[parent].children.filter(c => c != tree[node_id]);
                 }
@@ -179,7 +179,7 @@ function filter_osds_by_block_layout(orig_tree, osd_stats, block_size, bitmap_gr
         if (orig_tree[osd].level === 'osd')
         {
             const osd_stat = osd_stats[osd];
-            if (osd_stat && (osd_stat.data_block_size && osd_stat.data_block_size != block_size ||
+            if (osd_stat && (osd_stat.bs_block_size && osd_stat.bs_block_size != block_size ||
                 osd_stat.bitmap_granularity && osd_stat.bitmap_granularity != bitmap_granularity ||
                 osd_stat.immediate_commit == 'small' && immediate_commit == 'all' ||
                 osd_stat.immediate_commit == 'none' && immediate_commit != 'none'))

mon/package.json

@@ -1,6 +1,6 @@
 {
   "name": "vitastor-mon",
-  "version": "2.3.0",
+  "version": "1.11.0",
   "description": "Vitastor SDS monitor service",
   "main": "mon-main.js",
   "scripts": {
@@ -9,7 +9,7 @@
   "author": "Vitaliy Filippov",
   "license": "UNLICENSED",
   "dependencies": {
-    "antietcd": "^1.1.3",
+    "antietcd": "^1.1.2",
     "sprintf-js": "^1.1.2",
     "ws": "^7.2.5"
   },

mon/pg_gen.js

@@ -3,7 +3,6 @@
 
 const { RuleCombinator } = require('./lp_optimizer/dsl_pgs.js');
 const { SimpleCombinator, flatten_tree } = require('./lp_optimizer/simple_pgs.js');
-const { fold_failure_domains, unfold_failure_domains, fold_prev_pgs } = require('./lp_optimizer/fold.js');
 const { validate_pool_cfg, get_pg_rules } = require('./pool_config.js');
 const LPOptimizer = require('./lp_optimizer/lp_optimizer.js');
 const { scale_pg_count } = require('./pg_utils.js');
@@ -161,6 +160,7 @@ async function generate_pool_pgs(state, global_config, pool_id, osd_tree, levels
         pool_cfg.bitmap_granularity || global_config.bitmap_granularity || 4096,
         pool_cfg.immediate_commit || global_config.immediate_commit || 'all'
     );
+    pool_tree = make_hier_tree(global_config, pool_tree);
     // First try last_clean_pgs to minimize data movement
     let prev_pgs = [];
     for (const pg in ((state.history.last_clean_pgs.items||{})[pool_id]||{}))
@@ -175,19 +175,14 @@ async function generate_pool_pgs(state, global_config, pool_id, osd_tree, levels
             prev_pgs[pg-1] = [ ...state.pg.config.items[pool_id][pg].osd_set ];
         }
     }
-    const use_rules = !global_config.use_old_pg_combinator || pool_cfg.level_placement || pool_cfg.raw_placement;
-    const rules = use_rules ? get_pg_rules(pool_id, pool_cfg, global_config.placement_levels) : null;
-    const folded = fold_failure_domains(Object.values(pool_tree), use_rules ? rules : [ [ [ pool_cfg.failure_domain ] ] ]);
-    // FIXME: Remove/merge make_hier_tree() step somewhere, however it's needed to remove empty nodes
-    const folded_tree = make_hier_tree(global_config, folded.nodes);
     const old_pg_count = prev_pgs.length;
     const optimize_cfg = {
-        osd_weights: folded.nodes.reduce((a, c) => { if (Number(c.id)) { a[c.id] = c.size; } return a; }, {}),
-        combinator: use_rules
+        osd_weights: Object.values(pool_tree).filter(item => item.level === 'osd').reduce((a, c) => { a[c.id] = c.size; return a; }, {}),
+        combinator: !global_config.use_old_pg_combinator || pool_cfg.level_placement || pool_cfg.raw_placement
             // new algorithm:
-            ? new RuleCombinator(folded_tree, rules, pool_cfg.max_osd_combinations)
+            ? new RuleCombinator(pool_tree, get_pg_rules(pool_id, pool_cfg, global_config.placement_levels), pool_cfg.max_osd_combinations)
             // old algorithm:
-            : new SimpleCombinator(flatten_tree(folded_tree[''].children, levels, pool_cfg.failure_domain, 'osd'), pool_cfg.pg_size, pool_cfg.max_osd_combinations),
+            : new SimpleCombinator(flatten_tree(pool_tree[''].children, levels, pool_cfg.failure_domain, 'osd'), pool_cfg.pg_size, pool_cfg.max_osd_combinations),
         pg_count: pool_cfg.pg_count,
         pg_size: pool_cfg.pg_size,
         pg_minsize: pool_cfg.pg_minsize,
@@ -207,11 +202,12 @@ async function generate_pool_pgs(state, global_config, pool_id, osd_tree, levels
         for (const pg of prev_pgs)
         {
             while (pg.length < pool_cfg.pg_size)
+            {
                 pg.push(0);
+            }
         }
-        const folded_prev_pgs = fold_prev_pgs(prev_pgs, folded.leaves);
         optimize_result = await LPOptimizer.optimize_change({
-            prev_pgs: folded_prev_pgs,
+            prev_pgs,
             ...optimize_cfg,
         });
     }
@@ -219,10 +215,6 @@ async function generate_pool_pgs(state, global_config, pool_id, osd_tree, levels
     {
         optimize_result = await LPOptimizer.optimize_initial(optimize_cfg);
     }
-    optimize_result.int_pgs = unfold_failure_domains(optimize_result.int_pgs, prev_pgs, folded.leaves);
-    const osd_weights = Object.values(pool_tree).reduce((a, c) => { if (c.level === 'osd') { a[c.id] = c.size; } return a; }, {});
-    optimize_result.space = optimize_result.pg_effsize * LPOptimizer.pg_list_space_efficiency(optimize_result.int_pgs,
-        osd_weights, optimize_cfg.pg_minsize, 1);
     console.log(`Pool ${pool_id} (${pool_cfg.name || 'unnamed'}):`);
     LPOptimizer.print_change_stats(optimize_result);
     let pg_effsize = pool_cfg.pg_size;

mon/scripts/make-etcd

@@ -40,11 +40,6 @@ async function run()
         console.log("/etc/systemd/system/vitastor-etcd.service already exists");
         process.exit(1);
     }
-    if (!in_docker && fs.existsSync("/etc/systemd/system/etcd.service"))
-    {
-        console.log("/etc/systemd/system/etcd.service already exists");
-        process.exit(1);
-    }
     const config = JSON.parse(fs.readFileSync(config_path, { encoding: 'utf-8' }));
     if (!config.etcd_address)
     {
@@ -71,7 +66,7 @@ async function run()
         console.log('etcd for Vitastor configured. Run `systemctl enable --now vitastor-etcd` to start etcd');
         process.exit(0);
     }
-    await system(`mkdir -p /var/lib/etcd/vitastor`);
+    await system(`mkdir -p /var/lib/etcd`);
     fs.writeFileSync(
         "/etc/systemd/system/vitastor-etcd.service",
 `[Unit]
@@ -82,14 +77,14 @@ Wants=network-online.target local-fs.target time-sync.target
 [Service]
 Restart=always
 Environment=GOGC=50
-ExecStart=etcd --name ${etcd_name} --data-dir /var/lib/etcd/vitastor \\
+ExecStart=etcd --name ${etcd_name} --data-dir /var/lib/etcd \\
     --snapshot-count 10000 --advertise-client-urls http://${etcds[num]}:2379 --listen-client-urls http://${etcds[num]}:2379 \\
     --initial-advertise-peer-urls http://${etcds[num]}:2380 --listen-peer-urls http://${etcds[num]}:2380 \\
     --initial-cluster-token vitastor-etcd-1 --initial-cluster ${etcd_cluster} \\
     --initial-cluster-state new --max-txn-ops=100000 --max-request-bytes=104857600 \\
     --auto-compaction-retention=10 --auto-compaction-mode=revision
-WorkingDirectory=/var/lib/etcd/vitastor
-ExecStartPre=+chown -R etcd /var/lib/etcd/vitastor
+WorkingDirectory=/var/lib/etcd
+ExecStartPre=+chown -R etcd /var/lib/etcd
 User=etcd
 PrivateTmp=false
 TasksMax=infinity
@@ -102,9 +97,8 @@ WantedBy=multi-user.target
 `);
     await system(`useradd etcd`);
     await system(`systemctl daemon-reload`);
-    // Disable distribution etcd unit and enable our one
-    await system(`systemctl disable --now etcd`);
-    await system(`systemctl enable --now vitastor-etcd`);
+    await system(`systemctl enable etcd`);
+    await system(`systemctl start etcd`);
     process.exit(0);
 }
 

mon/stats.js

@@ -87,25 +87,11 @@ function sum_op_stats(all_osd, prev_stats)
                 for (const k in derived[type][op])
                 {
                     sum_diff[type][op] = sum_diff[type][op] || {};
-                    if (k == 'lat')
-                        sum_diff[type][op].lat = (sum_diff[type][op].lat || 0n) + derived[type][op].lat*derived[type][op].iops;
-                    else
-                        sum_diff[type][op][k] = (sum_diff[type][op][k] || 0n) + derived[type][op][k];
+                    sum_diff[type][op][k] = (sum_diff[type][op][k] || 0n) + derived[type][op][k];
                 }
             }
         }
     }
-    // Calculate average (weighted by iops) op latency across all OSDs
-    for (const type in sum_diff)
-    {
-        for (const op in sum_diff[type])
-        {
-            if (sum_diff[type][op].lat)
-            {
-                sum_diff[type][op].lat /= sum_diff[type][op].iops;
-            }
-        }
-    }
     return sum_diff;
 }
 
@@ -285,7 +271,8 @@ function sum_inode_stats(state, prev_stats)
                     const op_st = inode_stats[pool_id][inode_num][op];
                     op_st.bps += op_diff.bps;
                     op_st.iops += op_diff.iops;
-                    op_st.lat += op_diff.lat*op_diff.iops;
+                    op_st.lat += op_diff.lat;
+                    op_st.n_osd = (op_st.n_osd || 0) + 1;
                 }
             }
         }
@@ -298,8 +285,11 @@ function sum_inode_stats(state, prev_stats)
             for (const op of [ 'read', 'write', 'delete' ])
             {
                 const op_st = inode_stats[pool_id][inode_num][op];
-                if (op_st.lat)
-                    op_st.lat /= op_st.iops;
+                if (op_st.n_osd)
+                {
+                    op_st.lat /= BigInt(op_st.n_osd);
+                    delete op_st.n_osd;
+                }
                 if (op_st.bps > 0 || op_st.iops > 0)
                     nonzero = true;
             }

node-binding/client.cc

@@ -19,16 +19,11 @@
 class NodeVitastorRequest: public Nan::AsyncResource
 {
 public:
-    NodeVitastorRequest(NodeVitastor *cli, const v8::Local<v8::Function> & cb): Nan::AsyncResource("NodeVitastorRequest")
+    NodeVitastorRequest(NodeVitastor *cli, v8::Local<v8::Function> cb): Nan::AsyncResource("NodeVitastorRequest")
     {
         this->cli = cli;
         callback.Reset(cb);
     }
-    ~NodeVitastorRequest()
-    {
-        callback.Reset();
-        buffer_ref.Reset();
-    }
 
     iovec iov;
     std::vector<iovec> iov_list;
@@ -38,7 +33,6 @@ public:
     uint64_t offset = 0, len = 0, version = 0;
     bool with_parents = false;
     Nan::Persistent<v8::Function> callback;
-    Nan::Persistent<v8::Value> buffer_ref;
 };
 
 static uint64_t get_ui64(const v8::Local<v8::Value> & val)
@@ -135,8 +129,8 @@ NodeVitastorRequest* NodeVitastor::get_read_request(const Nan::FunctionCallbackI
         Nan::ThrowError("failed to allocate memory");
         return NULL;
     }
-
-    auto req = new NodeVitastorRequest(this, info[argpos+2].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[argpos+2].As<v8::Function>();
+    auto req = new NodeVitastorRequest(this, callback);
 
     req->offset = offset;
     req->len = len;
@@ -183,11 +177,11 @@ NodeVitastorRequest* NodeVitastor::get_write_request(const Nan::FunctionCallback
         argpos++;
     }
 
-    auto req = new NodeVitastorRequest(this, info[argpos+2].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[argpos+2].As<v8::Function>();
+    auto req = new NodeVitastorRequest(this, callback);
 
     req->offset = offset;
     req->version = version;
-    req->buffer_ref.Reset(bufarg);
 
     if (bufarg->IsArray())
     {
@@ -254,7 +248,8 @@ NodeVitastorRequest* NodeVitastor::get_delete_request(const Nan::FunctionCallbac
         argpos++;
     }
 
-    auto req = new NodeVitastorRequest(this, info[argpos+2].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[argpos+2].As<v8::Function>();
+    auto req = new NodeVitastorRequest(this, callback);
 
     req->offset = offset;
     req->len = len;
@@ -294,7 +289,8 @@ NAN_METHOD(NodeVitastor::Sync)
 
     NodeVitastor* self = Nan::ObjectWrap::Unwrap<NodeVitastor>(info.This());
 
-    auto req = new NodeVitastorRequest(self, info[0].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[0].As<v8::Function>();
+    auto req = new NodeVitastorRequest(self, callback);
 
     self->Ref();
     vitastor_c_sync(self->c, on_write_finish, req);
@@ -317,8 +313,9 @@ NAN_METHOD(NodeVitastor::ReadBitmap)
     uint64_t offset = get_ui64(info[2]);
     uint64_t len = get_ui64(info[3]);
     bool with_parents = Nan::To<bool>(info[4]).FromJust();
+    v8::Local<v8::Function> callback = info[5].As<v8::Function>();
 
-    auto req = new NodeVitastorRequest(self, info[5].As<v8::Function>());
+    auto req = new NodeVitastorRequest(self, callback);
     self->Ref();
     vitastor_c_read_bitmap(self->c, ((pool << (64-POOL_ID_BITS)) | inode), offset, len, with_parents, on_read_bitmap_finish, req);
 #if !defined VITASTOR_C_API_VERSION || VITASTOR_C_API_VERSION < 5
@@ -344,7 +341,8 @@ NAN_METHOD(NodeVitastor::OnReady)
     if (info.Length() < 1)
         Nan::ThrowError("Not enough arguments to on_ready(callback(err))");
     NodeVitastor* self = Nan::ObjectWrap::Unwrap<NodeVitastor>(info.This());
-    auto req = new NodeVitastorRequest(self, info[0].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[0].As<v8::Function>();
+    auto req = new NodeVitastorRequest(self, callback);
     self->Ref();
     vitastor_c_on_ready(self->c, on_ready_finish, req);
 #if !defined VITASTOR_C_API_VERSION || VITASTOR_C_API_VERSION < 5
@@ -568,7 +566,8 @@ NAN_METHOD(NodeVitastorImage::Sync)
 
     NodeVitastorImage* img = Nan::ObjectWrap::Unwrap<NodeVitastorImage>(info.This());
 
-    auto req = new NodeVitastorRequest(img->cli, info[0].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[0].As<v8::Function>();
+    auto req = new NodeVitastorRequest(img->cli, callback);
     req->img = img;
     req->op = NODE_VITASTOR_SYNC;
 
@@ -587,8 +586,9 @@ NAN_METHOD(NodeVitastorImage::ReadBitmap)
     uint64_t offset = get_ui64(info[0]);
     uint64_t len = get_ui64(info[1]);
     bool with_parents = Nan::To<bool>(info[2]).FromJust();
+    v8::Local<v8::Function> callback = info[3].As<v8::Function>();
 
-    auto req = new NodeVitastorRequest(img->cli, info[3].As<v8::Function>());
+    auto req = new NodeVitastorRequest(img->cli, callback);
     req->img = img;
     req->op = NODE_VITASTOR_READ_BITMAP;
     req->offset = offset;
@@ -607,7 +607,8 @@ NAN_METHOD(NodeVitastorImage::GetInfo)
 
     NodeVitastorImage* img = Nan::ObjectWrap::Unwrap<NodeVitastorImage>(info.This());
 
-    auto req = new NodeVitastorRequest(img->cli, info[0].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[0].As<v8::Function>();
+    auto req = new NodeVitastorRequest(img->cli, callback);
     req->img = img;
     req->op = NODE_VITASTOR_GET_INFO;
 
@@ -802,7 +803,8 @@ NAN_METHOD(NodeVitastorKV::Open)
         cfg[std::string(*Nan::Utf8String(key))] = std::string(*Nan::Utf8String(Nan::Get(jsParams, key).ToLocalChecked()));
     }
 
-    auto req = new NodeVitastorRequest(kv->cli, info[3].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[3].As<v8::Function>();
+    auto req = new NodeVitastorRequest(kv->cli, callback);
 
     kv->Ref();
     kv->dbw->open(inode_id, cfg, [kv, req](int res)
@@ -829,7 +831,8 @@ NAN_METHOD(NodeVitastorKV::Close)
 
     NodeVitastorKV* kv = Nan::ObjectWrap::Unwrap<NodeVitastorKV>(info.This());
 
-    auto req = new NodeVitastorRequest(kv->cli, info[0].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[0].As<v8::Function>();
+    auto req = new NodeVitastorRequest(kv->cli, callback);
 
     kv->Ref();
     kv->dbw->close([kv, req]()
@@ -886,7 +889,8 @@ void NodeVitastorKV::get_impl(const Nan::FunctionCallbackInfo<v8::Value> & info,
     // FIXME: Handle Buffer too
     std::string key(*Nan::Utf8String(info[0].As<v8::String>()));
 
-    auto req = new NodeVitastorRequest(kv->cli, info[1].As<v8::Function>());
+    v8::Local<v8::Function> callback = info[1].As<v8::Function>();
+    auto req = new NodeVitastorRequest(kv->cli, callback);
 
     kv->Ref();
     kv->dbw->get(key, [kv, req](int res, const std::string & value)
@@ -951,12 +955,14 @@ NAN_METHOD(NodeVitastorKV::Set)
     std::string key(*Nan::Utf8String(info[0].As<v8::String>()));
     std::string value(*Nan::Utf8String(info[1].As<v8::String>()));
 
-    NodeVitastorRequest *req = new NodeVitastorRequest(kv->cli, info[2].As<v8::Function>()), *cas_req = NULL;
+    v8::Local<v8::Function> callback = info[2].As<v8::Function>();
+    NodeVitastorRequest *req = new NodeVitastorRequest(kv->cli, callback), *cas_req = NULL;
 
     std::function<bool(int, const std::string &)> cas_cb;
     if (info.Length() > 3 && info[3]->IsObject())
     {
-        cas_req = new NodeVitastorRequest(kv->cli, info[3].As<v8::Function>());
+        v8::Local<v8::Function> cas_callback = info[3].As<v8::Function>();
+        cas_req = new NodeVitastorRequest(kv->cli, cas_callback);
         cas_cb = make_cas_callback(cas_req);
     }
 
@@ -990,12 +996,14 @@ NAN_METHOD(NodeVitastorKV::Del)
     // FIXME: Handle Buffer too
     std::string key(*Nan::Utf8String(info[0].As<v8::String>()));
 
-    NodeVitastorRequest *req = new NodeVitastorRequest(kv->cli, info[1].As<v8::Function>()), *cas_req = NULL;
+    v8::Local<v8::Function> callback = info[1].As<v8::Function>();
+    NodeVitastorRequest *req = new NodeVitastorRequest(kv->cli, callback), *cas_req = NULL;
 
     std::function<bool(int, const std::string &)> cas_cb;
     if (info.Length() > 2 && info[2]->IsObject())
     {
-        cas_req = new NodeVitastorRequest(kv->cli, info[2].As<v8::Function>());
+        v8::Local<v8::Function> cas_callback = info[2].As<v8::Function>();
+        cas_req = new NodeVitastorRequest(kv->cli, cas_callback);
         cas_cb = make_cas_callback(cas_req);
     }
 
@@ -1094,11 +1102,12 @@ NAN_METHOD(NodeVitastorKVListing::Next)
 
     if (info.Length() > 0)
     {
+        v8::Local<v8::Function> callback = info[0].As<v8::Function>();
         if (list->iter)
         {
             delete list->iter;
         }
-        list->iter = new NodeVitastorRequest(list->kv->cli, info[0].As<v8::Function>());
+        list->iter = new NodeVitastorRequest(list->kv->cli, callback);
     }
     if (!list->handle)
     {

node-binding/package.json

@@ -1,6 +1,6 @@
 {
   "name": "vitastor",
-  "version": "2.3.0",
+  "version": "1.11.0",
   "description": "Low-level native bindings to Vitastor client library",
   "main": "index.js",
   "keywords": [
@@ -16,7 +16,7 @@
     "build": "node-gyp rebuild"
   },
   "author": "Vitaliy Filippov",
-  "license": "VNPL-1.1",
+  "license": "VNPL-2.0",
   "dependencies": {
     "bindings": "1.5.0",
     "nan": "^2.19.0"

patches/VitastorPlugin.pm

@@ -261,7 +261,7 @@ sub free_image
     my ($vtype, $name, $vmid, undef, undef, undef) = $class->parse_volname($volname);
     $class->deactivate_volume($storeid, $scfg, $volname);
     my $full_list = run_cli($scfg, [ 'ls', '-l' ]);
-    my $list = _process_list($scfg, $storeid, $full_list, 0);
+    my $list = _process_list($scfg, $storeid, $full_list);
     # Remove image and all its snapshots
     my $rm_names = {
         map { ($prefix.$_->{name} => 1) }
@@ -269,10 +269,6 @@ sub free_image
         @$list
     };
     my $children = [ grep { $_->{parent_name} && $rm_names->{$_->{parent_name}} } @$full_list ];
-    $children = [ grep { 
-        substr($_->{name}, 0, length($prefix.$name)) ne $prefix.$name &&
-        substr($_->{name}, 0, length($prefix.$name)+1) ne $prefix.$name.'@'
-    } @$children ];
     die "Image has children: ".join(', ', map {
         substr($_->{name}, 0, length $prefix) eq $prefix
             ? substr($_->name, length $prefix)
@@ -292,15 +288,14 @@ sub free_image
 
 sub _process_list
 {
-    my ($scfg, $storeid, $result, $skip_snapshot) = @_;
-    $skip_snapshot = 1 if !defined $skip_snapshot;
+    my ($scfg, $storeid, $result) = @_;
     my $prefix = defined $scfg->{vitastor_prefix} ? $scfg->{vitastor_prefix} : 'pve/';
     my $list = [];
     foreach my $el (@$result)
     {
         next if !$el->{name} || length($prefix) && substr($el->{name}, 0, length $prefix) ne $prefix;
         my $name = substr($el->{name}, length $prefix);
-        next if $skip_snapshot && $name =~ /@/;
+        next if $name =~ /@/;
         my ($owner) = $name =~ /^(?:vm|base)-(\d+)-/s;
         next if !defined $owner;
         my $parent = !defined $el->{parent_name}
@@ -415,8 +410,8 @@ sub volume_size_info
     my $prefix = defined $scfg->{vitastor_prefix} ? $scfg->{vitastor_prefix} : 'pve/';
     my ($vtype, $name, $vmid) = $class->parse_volname($volname);
     my $info = _process_list($scfg, $storeid, run_cli($scfg, [ 'ls', $prefix.$name ]))->[0];
-    # (size, format, used, parent, ctime)
-    return wantarray ? ($info->{size}, $info->{format}, $info->{size}, $info->{parent}, 0) : $info->{size};
+    #return wantarray ? ($size, $format, $used, $parent, $st->ctime) : $size;
+    return $info->{size};
 }
 
 sub volume_resize
@@ -499,55 +494,4 @@ sub rename_volume
     return "${storeid}:${base_name}${target_volname}";
 }
 
-sub _monkey_patch_qemu_blockdev_options
-{
-    my ($cfg, $volid, $machine_version, $options) = @_;
-    my ($storeid, $volname) = PVE::Storage::parse_volume_id($volid);
-
-    my $scfg = PVE::Storage::storage_config($cfg, $storeid);
-
-    my $plugin = PVE::Storage::Plugin->lookup($scfg->{type});
-
-    my ($vtype) = $plugin->parse_volname($volname);
-    die "cannot use volume of type '$vtype' as a QEMU blockdevice\n"
-        if $vtype ne 'images' && $vtype ne 'iso' && $vtype ne 'import';
-
-    return $plugin->qemu_blockdev_options($scfg, $storeid, $volname, $machine_version, $options);
-}
-
-sub qemu_blockdev_options
-{
-    my ($class, $scfg, $storeid, $volname, $machine_version, $options) = @_;
-    my $prefix = defined $scfg->{vitastor_prefix} ? $scfg->{vitastor_prefix} : 'pve/';
-    my ($vtype, $name, $vmid) = $class->parse_volname($volname);
-    $name .= '@'.$options->{'snapshot-name'} if $options->{'snapshot-name'};
-    if ($scfg->{vitastor_nbd})
-    {
-        my $mapped = run_cli($scfg, [ 'ls' ], binary => '/usr/bin/vitastor-nbd');
-        my ($kerneldev) = grep { $mapped->{$_}->{image} eq $prefix.$name } keys %$mapped;
-        die "Image not mapped via NBD" if !$kerneldev;
-        return { driver => 'host_device', filename => $kerneldev };
-    }
-    my $blockdev = {
-        driver => 'vitastor',
-        image => $prefix.$name,
-    };
-    if ($scfg->{vitastor_config_path})
-    {
-        $blockdev->{'config-path'} = $scfg->{vitastor_config_path};
-    }
-    if ($scfg->{vitastor_etcd_address})
-    {
-        # FIXME This is the only exception: etcd_address -> etcd_host for qemu
-        $blockdev->{'etcd-host'} = $scfg->{vitastor_etcd_address};
-    }
-    if ($scfg->{vitastor_etcd_prefix})
-    {
-        $blockdev->{'etcd-prefix'} = $scfg->{vitastor_etcd_prefix};
-    }
-    return $blockdev;
-}
-
-*PVE::Storage::qemu_blockdev_options = *_monkey_patch_qemu_blockdev_options;
-
 1;

patches/cinder-vitastor.py

@@ -50,7 +50,7 @@ from cinder.volume import configuration
 from cinder.volume import driver
 from cinder.volume import volume_utils
 
-VITASTOR_VERSION = '2.3.0'
+VITASTOR_VERSION = '1.11.0'
 
 LOG = logging.getLogger(__name__)
 

patches/libvirt-11.5-vitastor.diff

@@ -1,637 +0,0 @@
-diff --git a/include/libvirt/libvirt-storage.h b/include/libvirt/libvirt-storage.h
-index aaad4a3da1..5f5daa8341 100644
---- a/include/libvirt/libvirt-storage.h
-+++ b/include/libvirt/libvirt-storage.h
-@@ -326,6 +326,7 @@ typedef enum {
-     VIR_CONNECT_LIST_STORAGE_POOLS_ZFS           = 1 << 17, /* (Since: 1.2.8) */
-     VIR_CONNECT_LIST_STORAGE_POOLS_VSTORAGE      = 1 << 18, /* (Since: 3.1.0) */
-     VIR_CONNECT_LIST_STORAGE_POOLS_ISCSI_DIRECT  = 1 << 19, /* (Since: 5.6.0) */
-+    VIR_CONNECT_LIST_STORAGE_POOLS_VITASTOR      = 1 << 20, /* (Since: 5.0.0) */
- } virConnectListAllStoragePoolsFlags;
- 
- int                     virConnectListAllStoragePools(virConnectPtr conn,
-diff --git a/src/conf/domain_conf.c b/src/conf/domain_conf.c
-index 1e24e41a48..ce359a4cf8 100644
---- a/src/conf/domain_conf.c
-+++ b/src/conf/domain_conf.c
-@@ -7435,7 +7435,8 @@ virDomainDiskSourceNetworkParse(xmlNodePtr node,
-     src->configFile = virXPathString("string(./config/@file)", ctxt);
- 
-     if (src->protocol == VIR_STORAGE_NET_PROTOCOL_HTTP ||
--        src->protocol == VIR_STORAGE_NET_PROTOCOL_HTTPS)
-+        src->protocol == VIR_STORAGE_NET_PROTOCOL_HTTPS ||
-+        src->protocol == VIR_STORAGE_NET_PROTOCOL_VITASTOR)
-         src->query = virXMLPropString(node, "query");
- 
-     if (virDomainStorageNetworkParseHosts(node, ctxt, &src->hosts, &src->nhosts) < 0)
-@@ -31871,6 +31872,7 @@ virDomainStorageSourceTranslateSourcePool(virStorageSource *src,
- 
-     case VIR_STORAGE_POOL_MPATH:
-     case VIR_STORAGE_POOL_RBD:
-+    case VIR_STORAGE_POOL_VITASTOR:
-     case VIR_STORAGE_POOL_SHEEPDOG:
-     case VIR_STORAGE_POOL_GLUSTER:
-     case VIR_STORAGE_POOL_LAST:
-diff --git a/src/conf/domain_validate.c b/src/conf/domain_validate.c
-index b28af7fa56..d1aae6e43e 100644
---- a/src/conf/domain_validate.c
-+++ b/src/conf/domain_validate.c
-@@ -504,6 +504,7 @@ virDomainDiskDefValidateSourceChainOne(const virStorageSource *src)
-         case VIR_STORAGE_NET_PROTOCOL_RBD:
-             break;
- 
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-         case VIR_STORAGE_NET_PROTOCOL_NBD:
-         case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-         case VIR_STORAGE_NET_PROTOCOL_GLUSTER:
-@@ -576,7 +577,7 @@ virDomainDiskDefValidateSourceChainOne(const virStorageSource *src)
-         }
-     }
- 
--    /* internal snapshots and config files are currently supported only with rbd: */
-+    /* internal snapshots are currently supported only with rbd: */
-     if (virStorageSourceGetActualType(src) != VIR_STORAGE_TYPE_NETWORK &&
-         src->protocol != VIR_STORAGE_NET_PROTOCOL_RBD) {
-         if (src->snapshot) {
-@@ -584,10 +585,14 @@ virDomainDiskDefValidateSourceChainOne(const virStorageSource *src)
-                            _("<snapshot> element is currently supported only with 'rbd' disks"));
-             return -1;
-         }
--
-+    }
-+    /* config files are currently supported only with rbd and vitastor: */
-+    if (virStorageSourceGetActualType(src) != VIR_STORAGE_TYPE_NETWORK &&
-+        src->protocol != VIR_STORAGE_NET_PROTOCOL_RBD &&
-+        src->protocol != VIR_STORAGE_NET_PROTOCOL_VITASTOR) {
-         if (src->configFile) {
-             virReportError(VIR_ERR_XML_ERROR, "%s",
--                           _("<config> element is currently supported only with 'rbd' disks"));
-+                           _("<config> element is currently supported only with 'rbd' and 'vitastor' disks"));
-             return -1;
-         }
-     }
-diff --git a/src/conf/schemas/domaincommon.rng b/src/conf/schemas/domaincommon.rng
-index 183dd5db5e..dcc0d1a778 100644
---- a/src/conf/schemas/domaincommon.rng
-+++ b/src/conf/schemas/domaincommon.rng
-@@ -2066,6 +2066,35 @@
-     </element>
-   </define>
- 
-+  <define name="diskSourceNetworkProtocolVitastor">
-+    <element name="source">
-+      <interleave>
-+        <attribute name="protocol">
-+          <value>vitastor</value>
-+        </attribute>
-+        <ref name="diskSourceCommon"/>
-+        <optional>
-+          <attribute name="name"/>
-+        </optional>
-+        <optional>
-+          <attribute name="query"/>
-+        </optional>
-+        <zeroOrMore>
-+          <ref name="diskSourceNetworkHost"/>
-+        </zeroOrMore>
-+        <optional>
-+          <element name="config">
-+            <attribute name="file">
-+              <ref name="absFilePath"/>
-+            </attribute>
-+            <empty/>
-+          </element>
-+        </optional>
-+        <empty/>
-+      </interleave>
-+    </element>
-+  </define>
-+
-   <define name="diskSourceNetworkProtocolISCSI">
-     <element name="source">
-       <attribute name="protocol">
-@@ -2416,6 +2445,7 @@
-       <ref name="diskSourceNetworkProtocolSimple"/>
-       <ref name="diskSourceNetworkProtocolVxHS"/>
-       <ref name="diskSourceNetworkProtocolNFS"/>
-+      <ref name="diskSourceNetworkProtocolVitastor"/>
-     </choice>
-   </define>
- 
-diff --git a/src/conf/storage_conf.c b/src/conf/storage_conf.c
-index 1dc9365bf2..a8a736be81 100644
---- a/src/conf/storage_conf.c
-+++ b/src/conf/storage_conf.c
-@@ -56,7 +56,7 @@ VIR_ENUM_IMPL(virStoragePool,
-               "logical", "disk", "iscsi",
-               "iscsi-direct", "scsi", "mpath",
-               "rbd", "sheepdog", "gluster",
--              "zfs", "vstorage",
-+              "zfs", "vstorage", "vitastor",
- );
- 
- VIR_ENUM_IMPL(virStoragePoolFormatFileSystem,
-@@ -242,6 +242,18 @@ static virStoragePoolTypeInfo poolTypeInfo[] = {
-           .formatToString = virStorageFileFormatTypeToString,
-       }
-     },
-+    {.poolType = VIR_STORAGE_POOL_VITASTOR,
-+     .poolOptions = {
-+         .flags = (VIR_STORAGE_POOL_SOURCE_HOST |
-+                   VIR_STORAGE_POOL_SOURCE_NETWORK |
-+                   VIR_STORAGE_POOL_SOURCE_NAME),
-+      },
-+      .volOptions = {
-+          .defaultFormat = VIR_STORAGE_FILE_RAW,
-+          .formatFromString = virStorageVolumeFormatFromString,
-+          .formatToString = virStorageFileFormatTypeToString,
-+      }
-+    },
-     {.poolType = VIR_STORAGE_POOL_SHEEPDOG,
-      .poolOptions = {
-          .flags = (VIR_STORAGE_POOL_SOURCE_HOST |
-@@ -538,6 +550,11 @@ virStoragePoolDefParseSource(xmlXPathContextPtr ctxt,
-                        _("element 'name' is mandatory for RBD pool"));
-         return -1;
-     }
-+    if (pool_type == VIR_STORAGE_POOL_VITASTOR && source->name == NULL) {
-+        virReportError(VIR_ERR_XML_ERROR, "%s",
-+                       _("element 'name' is mandatory for Vitastor pool"));
-+        return -1;
-+    }
- 
-     if (options->formatFromString) {
-         g_autofree char *format = NULL;
-@@ -1127,6 +1144,7 @@ virStoragePoolDefFormatBuf(virBuffer *buf,
-     /* RBD, Sheepdog, Gluster and Iscsi-direct devices are not local block devs nor
-      * files, so they don't have a target */
-     if (def->type != VIR_STORAGE_POOL_RBD &&
-+        def->type != VIR_STORAGE_POOL_VITASTOR &&
-         def->type != VIR_STORAGE_POOL_SHEEPDOG &&
-         def->type != VIR_STORAGE_POOL_GLUSTER &&
-         def->type != VIR_STORAGE_POOL_ISCSI_DIRECT) {
-diff --git a/src/conf/storage_conf.h b/src/conf/storage_conf.h
-index fc67957cfe..720c07ef74 100644
---- a/src/conf/storage_conf.h
-+++ b/src/conf/storage_conf.h
-@@ -103,6 +103,7 @@ typedef enum {
-     VIR_STORAGE_POOL_GLUSTER,  /* Gluster device */
-     VIR_STORAGE_POOL_ZFS,      /* ZFS */
-     VIR_STORAGE_POOL_VSTORAGE, /* Virtuozzo Storage */
-+    VIR_STORAGE_POOL_VITASTOR, /* Vitastor */
- 
-     VIR_STORAGE_POOL_LAST,
- } virStoragePoolType;
-@@ -454,6 +455,7 @@ VIR_ENUM_DECL(virStoragePartedFs);
-                  VIR_CONNECT_LIST_STORAGE_POOLS_SCSI     | \
-                  VIR_CONNECT_LIST_STORAGE_POOLS_MPATH    | \
-                  VIR_CONNECT_LIST_STORAGE_POOLS_RBD      | \
-+                 VIR_CONNECT_LIST_STORAGE_POOLS_VITASTOR | \
-                  VIR_CONNECT_LIST_STORAGE_POOLS_SHEEPDOG | \
-                  VIR_CONNECT_LIST_STORAGE_POOLS_GLUSTER  | \
-                  VIR_CONNECT_LIST_STORAGE_POOLS_ZFS      | \
-diff --git a/src/conf/storage_source_conf.c b/src/conf/storage_source_conf.c
-index 8a063be244..dd9c7f11a2 100644
---- a/src/conf/storage_source_conf.c
-+++ b/src/conf/storage_source_conf.c
-@@ -89,6 +89,7 @@ VIR_ENUM_IMPL(virStorageNetProtocol,
-               "ssh",
-               "vxhs",
-               "nfs",
-+              "vitastor",
- );
- 
- 
-@@ -1314,6 +1315,7 @@ virStorageSourceNetworkDefaultPort(virStorageNetProtocol protocol)
-         case VIR_STORAGE_NET_PROTOCOL_GLUSTER:
-             return 24007;
- 
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-         case VIR_STORAGE_NET_PROTOCOL_RBD:
-             /* we don't provide a default for RBD */
-             return 0;
-diff --git a/src/conf/storage_source_conf.h b/src/conf/storage_source_conf.h
-index ebddf28cd6..873a2be65c 100644
---- a/src/conf/storage_source_conf.h
-+++ b/src/conf/storage_source_conf.h
-@@ -130,6 +130,7 @@ typedef enum {
-     VIR_STORAGE_NET_PROTOCOL_SSH,
-     VIR_STORAGE_NET_PROTOCOL_VXHS,
-     VIR_STORAGE_NET_PROTOCOL_NFS,
-+    VIR_STORAGE_NET_PROTOCOL_VITASTOR,
- 
-     VIR_STORAGE_NET_PROTOCOL_LAST
- } virStorageNetProtocol;
-diff --git a/src/conf/virstorageobj.c b/src/conf/virstorageobj.c
-index 59fa5da372..4739167f5f 100644
---- a/src/conf/virstorageobj.c
-+++ b/src/conf/virstorageobj.c
-@@ -1438,6 +1438,7 @@ virStoragePoolObjSourceFindDuplicateCb(const void *payload,
-             return 1;
-         break;
- 
-+    case VIR_STORAGE_POOL_VITASTOR:
-     case VIR_STORAGE_POOL_ISCSI_DIRECT:
-     case VIR_STORAGE_POOL_RBD:
-     case VIR_STORAGE_POOL_LAST:
-@@ -1921,6 +1922,8 @@ virStoragePoolObjMatch(virStoragePoolObj *obj,
-                (obj->def->type == VIR_STORAGE_POOL_MPATH))   ||
-               (MATCH(VIR_CONNECT_LIST_STORAGE_POOLS_RBD) &&
-                (obj->def->type == VIR_STORAGE_POOL_RBD))     ||
-+              (MATCH(VIR_CONNECT_LIST_STORAGE_POOLS_VITASTOR) &&
-+               (obj->def->type == VIR_STORAGE_POOL_VITASTOR)) ||
-               (MATCH(VIR_CONNECT_LIST_STORAGE_POOLS_SHEEPDOG) &&
-                (obj->def->type == VIR_STORAGE_POOL_SHEEPDOG)) ||
-               (MATCH(VIR_CONNECT_LIST_STORAGE_POOLS_GLUSTER) &&
-diff --git a/src/libvirt-storage.c b/src/libvirt-storage.c
-index db7660aac4..561df34709 100644
---- a/src/libvirt-storage.c
-+++ b/src/libvirt-storage.c
-@@ -94,6 +94,7 @@ virStoragePoolGetConnect(virStoragePoolPtr pool)
-  * VIR_CONNECT_LIST_STORAGE_POOLS_SCSI
-  * VIR_CONNECT_LIST_STORAGE_POOLS_MPATH
-  * VIR_CONNECT_LIST_STORAGE_POOLS_RBD
-+ * VIR_CONNECT_LIST_STORAGE_POOLS_VITASTOR
-  * VIR_CONNECT_LIST_STORAGE_POOLS_SHEEPDOG
-  * VIR_CONNECT_LIST_STORAGE_POOLS_GLUSTER
-  * VIR_CONNECT_LIST_STORAGE_POOLS_ZFS
-diff --git a/src/libxl/libxl_conf.c b/src/libxl/libxl_conf.c
-index bdd30dd65a..5353e00b4a 100644
---- a/src/libxl/libxl_conf.c
-+++ b/src/libxl/libxl_conf.c
-@@ -1081,6 +1081,7 @@ libxlMakeNetworkDiskSrcStr(virStorageSource *src,
-     case VIR_STORAGE_NET_PROTOCOL_SSH:
-     case VIR_STORAGE_NET_PROTOCOL_VXHS:
-     case VIR_STORAGE_NET_PROTOCOL_NFS:
-+    case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-     case VIR_STORAGE_NET_PROTOCOL_LAST:
-     case VIR_STORAGE_NET_PROTOCOL_NONE:
-         virReportError(VIR_ERR_NO_SUPPORT,
-diff --git a/src/libxl/xen_xl.c b/src/libxl/xen_xl.c
-index ec8de30c01..61eab9606d 100644
---- a/src/libxl/xen_xl.c
-+++ b/src/libxl/xen_xl.c
-@@ -1461,6 +1461,7 @@ xenFormatXLDiskSrcNet(virStorageSource *src)
-     case VIR_STORAGE_NET_PROTOCOL_SSH:
-     case VIR_STORAGE_NET_PROTOCOL_VXHS:
-     case VIR_STORAGE_NET_PROTOCOL_NFS:
-+    case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-     case VIR_STORAGE_NET_PROTOCOL_LAST:
-     case VIR_STORAGE_NET_PROTOCOL_NONE:
-         virReportError(VIR_ERR_NO_SUPPORT,
-diff --git a/src/qemu/qemu_block.c b/src/qemu/qemu_block.c
-index 32568d4ae6..e625fa0720 100644
---- a/src/qemu/qemu_block.c
-+++ b/src/qemu/qemu_block.c
-@@ -731,6 +731,38 @@ qemuBlockStorageSourceGetRBDProps(virStorageSource *src,
- }
- 
- 
-+static virJSONValue *
-+qemuBlockStorageSourceGetVitastorProps(virStorageSource *src)
-+{
-+    virJSONValue *ret = NULL;
-+    virStorageNetHostDef *host;
-+    size_t i;
-+    g_auto(virBuffer) buf = VIR_BUFFER_INITIALIZER;
-+    g_autofree char *etcd = NULL;
-+
-+    for (i = 0; i < src->nhosts; i++) {
-+        host = src->hosts + i;
-+        if ((virStorageNetHostTransport)host->transport != VIR_STORAGE_NET_HOST_TRANS_TCP) {
-+            return NULL;
-+        }
-+        virBufferAsprintf(&buf, i > 0 ? ",%s:%u" : "%s:%u", host->name, host->port);
-+    }
-+    if (src->nhosts > 0) {
-+        etcd = virBufferContentAndReset(&buf);
-+    }
-+
-+    if (virJSONValueObjectAdd(&ret,
-+                              "S:etcd-host", etcd,
-+                              "S:etcd-prefix", src->query,
-+                              "S:config-path", src->configFile,
-+                              "s:image", src->path,
-+                              NULL) < 0)
-+        return NULL;
-+
-+    return ret;
-+}
-+
-+
- static virJSONValue *
- qemuBlockStorageSourceGetSshProps(virStorageSource *src)
- {
-@@ -1082,6 +1114,12 @@ qemuBlockStorageSourceGetBackendProps(virStorageSource *src,
-                 return NULL;
-             break;
- 
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-+            driver = "vitastor";
-+            if (!(fileprops = qemuBlockStorageSourceGetVitastorProps(src)))
-+                return NULL;
-+            break;
-+
-         case VIR_STORAGE_NET_PROTOCOL_SSH:
-             driver = "ssh";
-             if (!(fileprops = qemuBlockStorageSourceGetSshProps(src)))
-@@ -1985,6 +2023,7 @@ qemuBlockGetBackingStoreString(virStorageSource *src,
- 
-             case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-             case VIR_STORAGE_NET_PROTOCOL_RBD:
-+            case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-             case VIR_STORAGE_NET_PROTOCOL_VXHS:
-             case VIR_STORAGE_NET_PROTOCOL_NFS:
-             case VIR_STORAGE_NET_PROTOCOL_SSH:
-@@ -2365,6 +2404,12 @@ qemuBlockStorageSourceCreateGetStorageProps(virStorageSource *src,
-                 return -1;
-             break;
- 
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-+            driver = "vitastor";
-+            if (!(location = qemuBlockStorageSourceGetVitastorProps(src)))
-+                return -1;
-+            break;
-+
-         case VIR_STORAGE_NET_PROTOCOL_SSH:
-             if (srcPriv->nbdkitProcess) {
-                 /* disk creation not yet supported with nbdkit, and even if it
-diff --git a/src/qemu/qemu_domain.c b/src/qemu/qemu_domain.c
-index 0d2548d8d4..91121d6e1f 100644
---- a/src/qemu/qemu_domain.c
-+++ b/src/qemu/qemu_domain.c
-@@ -4526,7 +4526,8 @@ qemuDomainValidateStorageSource(virStorageSource *src,
-     if (src->query &&
-         (actualType != VIR_STORAGE_TYPE_NETWORK ||
-          (src->protocol != VIR_STORAGE_NET_PROTOCOL_HTTPS &&
--          src->protocol != VIR_STORAGE_NET_PROTOCOL_HTTP))) {
-+          src->protocol != VIR_STORAGE_NET_PROTOCOL_HTTP &&
-+          src->protocol != VIR_STORAGE_NET_PROTOCOL_VITASTOR))) {
-         virReportError(VIR_ERR_CONFIG_UNSUPPORTED, "%s",
-                        _("query is supported only with HTTP(S) protocols"));
-         return -1;
-@@ -8954,6 +8955,7 @@ qemuDomainPrepareStorageSourceTLS(virStorageSource *src,
-         break;
- 
-     case VIR_STORAGE_NET_PROTOCOL_RBD:
-+    case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-     case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-     case VIR_STORAGE_NET_PROTOCOL_GLUSTER:
-     case VIR_STORAGE_NET_PROTOCOL_ISCSI:
-diff --git a/src/qemu/qemu_snapshot.c b/src/qemu/qemu_snapshot.c
-index 8128154749..afb339b9b0 100644
---- a/src/qemu/qemu_snapshot.c
-+++ b/src/qemu/qemu_snapshot.c
-@@ -662,6 +662,7 @@ qemuSnapshotPrepareDiskExternalInactive(virDomainSnapshotDiskDef *snapdisk,
-         case VIR_STORAGE_NET_PROTOCOL_NONE:
-         case VIR_STORAGE_NET_PROTOCOL_NBD:
-         case VIR_STORAGE_NET_PROTOCOL_RBD:
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-         case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-         case VIR_STORAGE_NET_PROTOCOL_GLUSTER:
-         case VIR_STORAGE_NET_PROTOCOL_ISCSI:
-@@ -887,6 +888,7 @@ qemuSnapshotPrepareDiskInternal(virDomainDiskDef *disk,
-         case VIR_STORAGE_NET_PROTOCOL_NONE:
-         case VIR_STORAGE_NET_PROTOCOL_NBD:
-         case VIR_STORAGE_NET_PROTOCOL_RBD:
-+        case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-         case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-         case VIR_STORAGE_NET_PROTOCOL_GLUSTER:
-         case VIR_STORAGE_NET_PROTOCOL_ISCSI:
-diff --git a/src/storage/storage_driver.c b/src/storage/storage_driver.c
-index e19e032427..59f91f4710 100644
---- a/src/storage/storage_driver.c
-+++ b/src/storage/storage_driver.c
-@@ -1626,6 +1626,7 @@ storageVolLookupByPathCallback(virStoragePoolObj *obj,
- 
-         case VIR_STORAGE_POOL_GLUSTER:
-         case VIR_STORAGE_POOL_RBD:
-+        case VIR_STORAGE_POOL_VITASTOR:
-         case VIR_STORAGE_POOL_SHEEPDOG:
-         case VIR_STORAGE_POOL_ZFS:
-         case VIR_STORAGE_POOL_LAST:
-diff --git a/src/storage_file/storage_source_backingstore.c b/src/storage_file/storage_source_backingstore.c
-index 80681924ea..8a3ade9ec0 100644
---- a/src/storage_file/storage_source_backingstore.c
-+++ b/src/storage_file/storage_source_backingstore.c
-@@ -287,6 +287,75 @@ virStorageSourceParseRBDColonString(const char *rbdstr,
- }
- 
- 
-+static int
-+virStorageSourceParseVitastorColonString(const char *colonstr,
-+                                         virStorageSource *src)
-+{
-+    char *p, *e, *next;
-+    g_autofree char *options = NULL;
-+
-+    /* optionally skip the "vitastor:" prefix if provided */
-+    if (STRPREFIX(colonstr, "vitastor:"))
-+        colonstr += strlen("vitastor:");
-+
-+    options = g_strdup(colonstr);
-+
-+    p = options;
-+    while (*p) {
-+        /* find : delimiter or end of string */
-+        for (e = p; *e && *e != ':'; ++e) {
-+            if (*e == '\\') {
-+                e++;
-+                if (*e == '\0')
-+                    break;
-+            }
-+        }
-+        if (*e == '\0') {
-+            next = e;    /* last kv pair */
-+        } else {
-+            next = e + 1;
-+            *e = '\0';
-+        }
-+
-+        if (STRPREFIX(p, "image=")) {
-+            src->path = g_strdup(p + strlen("image="));
-+        } else if (STRPREFIX(p, "etcd-prefix=")) {
-+            src->query = g_strdup(p + strlen("etcd-prefix="));
-+        } else if (STRPREFIX(p, "config-path=")) {
-+            src->configFile = g_strdup(p + strlen("config-path="));
-+        } else if (STRPREFIX(p, "etcd-host=")) {
-+            char *h, *sep;
-+
-+            h = p + strlen("etcd-host=");
-+            while (h < e) {
-+                for (sep = h; sep < e; ++sep) {
-+                    if (*sep == '\\' && (sep[1] == ',' ||
-+                                         sep[1] == ';' ||
-+                                         sep[1] == ' ')) {
-+                        *sep = '\0';
-+                        sep += 2;
-+                        break;
-+                    }
-+                }
-+
-+                if (virStorageSourceRBDAddHost(src, h) < 0)
-+                    return -1;
-+
-+                h = sep;
-+            }
-+        }
-+
-+        p = next;
-+    }
-+
-+    if (!src->path) {
-+        return -1;
-+    }
-+
-+    return 0;
-+}
-+
-+
- static int
- virStorageSourceParseNBDColonString(const char *nbdstr,
-                                     virStorageSource *src)
-@@ -399,6 +468,11 @@ virStorageSourceParseBackingColon(virStorageSource *src,
-             return -1;
-         break;
- 
-+    case VIR_STORAGE_NET_PROTOCOL_VITASTOR:
-+        if (virStorageSourceParseVitastorColonString(path, src) < 0)
-+            return -1;
-+        break;
-+
-     case VIR_STORAGE_NET_PROTOCOL_SHEEPDOG:
-     case VIR_STORAGE_NET_PROTOCOL_LAST:
-     case VIR_STORAGE_NET_PROTOCOL_NONE:
-@@ -975,6 +1049,54 @@ virStorageSourceParseBackingJSONRBD(virStorageSource *src,
-     return 0;
- }
- 
-+static int
-+virStorageSourceParseBackingJSONVitastor(virStorageSource *src,
-+                                         virJSONValue *json,
-+                                         const char *jsonstr G_GNUC_UNUSED,
-+                                         int opaque G_GNUC_UNUSED)
-+{
-+    const char *filename;
-+    const char *image = virJSONValueObjectGetString(json, "image");
-+    const char *conf = virJSONValueObjectGetString(json, "config-path");
-+    const char *etcd_prefix = virJSONValueObjectGetString(json, "etcd-prefix");
-+    virJSONValue *servers = virJSONValueObjectGetArray(json, "server");
-+    size_t nservers;
-+    size_t i;
-+
-+    src->type = VIR_STORAGE_TYPE_NETWORK;
-+    src->protocol = VIR_STORAGE_NET_PROTOCOL_VITASTOR;
-+
-+    /* legacy syntax passed via 'filename' option */
-+    if ((filename = virJSONValueObjectGetString(json, "filename")))
-+        return virStorageSourceParseVitastorColonString(filename, src);
-+
-+    if (!image) {
-+        virReportError(VIR_ERR_INVALID_ARG, "%s",
-+                       _("missing image name in Vitastor backing volume "
-+                         "JSON specification"));
-+        return -1;
-+    }
-+
-+    src->path = g_strdup(image);
-+    src->configFile = g_strdup(conf);
-+    src->query = g_strdup(etcd_prefix);
-+
-+    if (servers) {
-+        nservers = virJSONValueArraySize(servers);
-+
-+        src->hosts = g_new0(virStorageNetHostDef, nservers);
-+        src->nhosts = nservers;
-+
-+        for (i = 0; i < nservers; i++) {
-+            if (virStorageSourceParseBackingJSONInetSocketAddress(src->hosts + i,
-+                                                                  virJSONValueArrayGet(servers, i)) < 0)
-+                return -1;
-+        }
-+    }
-+
-+    return 0;
-+}
-+
- static int
- virStorageSourceParseBackingJSONRaw(virStorageSource *src,
-                                     virJSONValue *json,
-@@ -1152,6 +1274,7 @@ static const struct virStorageSourceJSONDriverParser jsonParsers[] = {
-     {"sheepdog", false, virStorageSourceParseBackingJSONSheepdog, 0},
-     {"ssh", false, virStorageSourceParseBackingJSONSSH, 0},
-     {"rbd", false, virStorageSourceParseBackingJSONRBD, 0},
-+    {"vitastor", false, virStorageSourceParseBackingJSONVitastor, 0},
-     {"raw", true, virStorageSourceParseBackingJSONRaw, 0},
-     {"nfs", false, virStorageSourceParseBackingJSONNFS, 0},
-     {"vxhs", false, virStorageSourceParseBackingJSONVxHS, 0},
-diff --git a/src/test/test_driver.c b/src/test/test_driver.c
-index 25335d9002..cf54069fbe 100644
---- a/src/test/test_driver.c
-+++ b/src/test/test_driver.c
-@@ -7340,6 +7340,7 @@ testStorageVolumeTypeForPool(int pooltype)
-     case VIR_STORAGE_POOL_ISCSI_DIRECT:
-     case VIR_STORAGE_POOL_GLUSTER:
-     case VIR_STORAGE_POOL_RBD:
-+    case VIR_STORAGE_POOL_VITASTOR:
-         return VIR_STORAGE_VOL_NETWORK;
-     case VIR_STORAGE_POOL_LOGICAL:
-     case VIR_STORAGE_POOL_DISK:
-diff --git a/tests/storagepoolcapsschemadata/poolcaps-fs.xml b/tests/storagepoolcapsschemadata/poolcaps-fs.xml
-index eee75af746..8bd0a57bdd 100644
---- a/tests/storagepoolcapsschemadata/poolcaps-fs.xml
-+++ b/tests/storagepoolcapsschemadata/poolcaps-fs.xml
-@@ -204,4 +204,11 @@
-       </enum>
-     </volOptions>
-   </pool>
-+  <pool type='vitastor' supported='no'>
-+    <volOptions>
-+      <defaultFormat type='raw'/>
-+      <enum name='targetFormatType'>
-+      </enum>
-+    </volOptions>
-+  </pool>
- </storagepoolCapabilities>
-diff --git a/tests/storagepoolcapsschemadata/poolcaps-full.xml b/tests/storagepoolcapsschemadata/poolcaps-full.xml
-index 805950a937..852df0de16 100644
---- a/tests/storagepoolcapsschemadata/poolcaps-full.xml
-+++ b/tests/storagepoolcapsschemadata/poolcaps-full.xml
-@@ -204,4 +204,11 @@
-       </enum>
-     </volOptions>
-   </pool>
-+  <pool type='vitastor' supported='yes'>
-+    <volOptions>
-+      <defaultFormat type='raw'/>
-+      <enum name='targetFormatType'>
-+      </enum>
-+    </volOptions>
-+  </pool>
- </storagepoolCapabilities>
-diff --git a/tests/storagepoolxml2argvtest.c b/tests/storagepoolxml2argvtest.c
-index d5c2531ab8..b19308ac38 100644
---- a/tests/storagepoolxml2argvtest.c
-+++ b/tests/storagepoolxml2argvtest.c
-@@ -57,6 +57,7 @@ testCompareXMLToArgvFiles(bool shouldFail,
-     case VIR_STORAGE_POOL_GLUSTER:
-     case VIR_STORAGE_POOL_ZFS:
-     case VIR_STORAGE_POOL_VSTORAGE:
-+    case VIR_STORAGE_POOL_VITASTOR:
-     case VIR_STORAGE_POOL_LAST:
-     default:
-         VIR_TEST_DEBUG("pool type '%s' has no xml2argv test", defTypeStr);
-diff --git a/tools/virsh-pool.c b/tools/virsh-pool.c
-index 2010ef1356..072e2ff9e8 100644
---- a/tools/virsh-pool.c
-+++ b/tools/virsh-pool.c
-@@ -1187,6 +1187,9 @@ cmdPoolList(vshControl *ctl, const vshCmd *cmd G_GNUC_UNUSED)
-             case VIR_STORAGE_POOL_VSTORAGE:
-                 flags |= VIR_CONNECT_LIST_STORAGE_POOLS_VSTORAGE;
-                 break;
-+            case VIR_STORAGE_POOL_VITASTOR:
-+                flags |= VIR_CONNECT_LIST_STORAGE_POOLS_VITASTOR;
-+                break;
-             case VIR_STORAGE_POOL_LAST:
-                 break;
-             }

patches/pve-qemu-10.0-vitastor.patch

@@ -1,172 +0,0 @@
-Index: pve-qemu-kvm-10.0.2/block/meson.build
-===================================================================
---- pve-qemu-kvm-10.0.2.orig/block/meson.build
-+++ pve-qemu-kvm-10.0.2/block/meson.build
-@@ -126,6 +126,7 @@ foreach m : [
-   [libnfs, 'nfs', files('nfs.c')],
-   [libssh, 'ssh', files('ssh.c')],
-   [rbd, 'rbd', files('rbd.c')],
-+  [vitastor, 'vitastor', files('vitastor.c')],
- ]
-   if m[0].found()
-     module_ss = ss.source_set()
-Index: pve-qemu-kvm-10.0.2/meson.build
-===================================================================
---- pve-qemu-kvm-10.0.2.orig/meson.build
-+++ pve-qemu-kvm-10.0.2/meson.build
-@@ -1622,6 +1622,26 @@ if not get_option('rbd').auto() or have_
-   endif
- endif
- 
-+vitastor = not_found
-+if not get_option('vitastor').auto() or have_block
-+  libvitastor_client = cc.find_library('vitastor_client', has_headers: ['vitastor_c.h'],
-+    required: get_option('vitastor'))
-+  if libvitastor_client.found()
-+    if cc.links('''
-+      #include <vitastor_c.h>
-+      int main(void) {
-+        vitastor_c_create_qemu(0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0);
-+        return 0;
-+      }''', dependencies: libvitastor_client)
-+      vitastor = declare_dependency(dependencies: libvitastor_client)
-+    elif get_option('vitastor').enabled()
-+      error('could not link libvitastor_client')
-+    else
-+      warning('could not link libvitastor_client, disabling')
-+    endif
-+  endif
-+endif
-+
- glusterfs = not_found
- glusterfs_ftruncate_has_stat = false
- glusterfs_iocb_has_stat = false
-@@ -2514,6 +2534,7 @@ endif
- config_host_data.set('CONFIG_OPENGL', opengl.found())
- config_host_data.set('CONFIG_PLUGIN', get_option('plugins'))
- config_host_data.set('CONFIG_RBD', rbd.found())
-+config_host_data.set('CONFIG_VITASTOR', vitastor.found())
- config_host_data.set('CONFIG_RDMA', rdma.found())
- config_host_data.set('CONFIG_RELOCATABLE', get_option('relocatable'))
- config_host_data.set('CONFIG_SAFESTACK', get_option('safe_stack'))
-@@ -4812,6 +4833,7 @@ summary_info += {'fdt support':       fd
- summary_info += {'libcap-ng support': libcap_ng}
- summary_info += {'bpf support':       libbpf}
- summary_info += {'rbd support':       rbd}
-+summary_info += {'vitastor support':  vitastor}
- summary_info += {'smartcard support': cacard}
- summary_info += {'U2F support':       u2f}
- summary_info += {'libusb':            libusb}
-Index: pve-qemu-kvm-10.0.2/meson_options.txt
-===================================================================
---- pve-qemu-kvm-10.0.2.orig/meson_options.txt
-+++ pve-qemu-kvm-10.0.2/meson_options.txt
-@@ -202,6 +202,8 @@ option('pvg', type: 'feature', value: 'a
-        description: 'macOS paravirtualized graphics support')
- option('rbd', type : 'feature', value : 'auto',
-        description: 'Ceph block device driver')
-+option('vitastor', type : 'feature', value : 'auto',
-+       description: 'Vitastor block device driver')
- option('opengl', type : 'feature', value : 'auto',
-        description: 'OpenGL support')
- option('rdma', type : 'feature', value : 'auto',
-Index: pve-qemu-kvm-10.0.2/qapi/block-core.json
-===================================================================
---- pve-qemu-kvm-10.0.2.orig/qapi/block-core.json
-+++ pve-qemu-kvm-10.0.2/qapi/block-core.json
-@@ -3599,7 +3599,7 @@
-             'raw', 'rbd',
-             { 'name': 'replication', 'if': 'CONFIG_REPLICATION' },
-             'pbs',
--            'ssh', 'throttle', 'vdi', 'vhdx',
-+            'ssh', 'throttle', 'vdi', 'vhdx', 'vitastor',
-             { 'name': 'virtio-blk-vfio-pci', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-user', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-vdpa', 'if': 'CONFIG_BLKIO' },
-@@ -4725,6 +4725,28 @@
-             '*server': ['InetSocketAddressBase'] } }
- 
- ##
-+# @BlockdevOptionsVitastor:
-+#
-+# Driver specific block device options for vitastor
-+#
-+# @image:       Image name
-+# @inode:       Inode number
-+# @pool:        Pool ID
-+# @size:        Desired image size in bytes
-+# @config-path: Path to Vitastor configuration
-+# @etcd-host:   etcd connection address(es)
-+# @etcd-prefix: etcd key/value prefix
-+##
-+{ 'struct': 'BlockdevOptionsVitastor',
-+  'data': { '*inode': 'uint64',
-+            '*pool': 'uint64',
-+            '*size': 'uint64',
-+            '*image': 'str',
-+            '*config-path': 'str',
-+            '*etcd-host': 'str',
-+            '*etcd-prefix': 'str' } }
-+
-+##
- # @ReplicationMode:
- #
- # An enumeration of replication modes.
-@@ -5194,6 +5216,7 @@
-       'throttle':   'BlockdevOptionsThrottle',
-       'vdi':        'BlockdevOptionsGenericFormat',
-       'vhdx':       'BlockdevOptionsGenericFormat',
-+      'vitastor':   'BlockdevOptionsVitastor',
-       'virtio-blk-vfio-pci':
-                     { 'type': 'BlockdevOptionsVirtioBlkVfioPci',
-                       'if': 'CONFIG_BLKIO' },
-@@ -5674,6 +5697,20 @@
-             '*encrypt' :        'RbdEncryptionCreateOptions' } }
- 
- ##
-+# @BlockdevCreateOptionsVitastor:
-+#
-+# Driver specific image creation options for Vitastor.
-+#
-+# @location: Where to store the new image file.  This location cannot
-+#     point to a snapshot.
-+#
-+# @size: Size of the virtual disk in bytes
-+##
-+{ 'struct': 'BlockdevCreateOptionsVitastor',
-+  'data': { 'location':         'BlockdevOptionsVitastor',
-+            'size':             'size' } }
-+
-+##
- # @BlockdevVmdkSubformat:
- #
- # Subformat options for VMDK images
-@@ -5895,6 +5932,7 @@
-       'ssh':            'BlockdevCreateOptionsSsh',
-       'vdi':            'BlockdevCreateOptionsVdi',
-       'vhdx':           'BlockdevCreateOptionsVhdx',
-+      'vitastor':       'BlockdevCreateOptionsVitastor',
-       'vmdk':           'BlockdevCreateOptionsVmdk',
-       'vpc':            'BlockdevCreateOptionsVpc'
-   } }
-Index: pve-qemu-kvm-10.0.2/scripts/meson-buildoptions.sh
-===================================================================
---- pve-qemu-kvm-10.0.2.orig/scripts/meson-buildoptions.sh
-+++ pve-qemu-kvm-10.0.2/scripts/meson-buildoptions.sh
-@@ -175,6 +175,7 @@ meson_options_help() {
-   printf "%s\n" '  qga-vss         build QGA VSS support (broken with MinGW)'
-   printf "%s\n" '  qpl             Query Processing Library support'
-   printf "%s\n" '  rbd             Ceph block device driver'
-+  printf "%s\n" '  vitastor        Vitastor block device driver'
-   printf "%s\n" '  rdma            Enable RDMA-based migration'
-   printf "%s\n" '  replication     replication support'
-   printf "%s\n" '  rust            Rust support'
-@@ -458,6 +459,8 @@ _meson_option_parse() {
-     --disable-qpl) printf "%s" -Dqpl=disabled ;;
-     --enable-rbd) printf "%s" -Drbd=enabled ;;
-     --disable-rbd) printf "%s" -Drbd=disabled ;;
-+    --enable-vitastor) printf "%s" -Dvitastor=enabled ;;
-+    --disable-vitastor) printf "%s" -Dvitastor=disabled ;;
-     --enable-rdma) printf "%s" -Drdma=enabled ;;
-     --disable-rdma) printf "%s" -Drdma=disabled ;;
-     --enable-relocatable) printf "%s" -Drelocatable=true ;;

patches/pve-qemu-9.2-vitastor.patch

@@ -1,172 +0,0 @@
-Index: pve-qemu-kvm-9.2.0/block/meson.build
-===================================================================
---- pve-qemu-kvm-9.2.0.orig/block/meson.build
-+++ pve-qemu-kvm-9.2.0/block/meson.build
-@@ -126,6 +126,7 @@ foreach m : [
-   [libnfs, 'nfs', files('nfs.c')],
-   [libssh, 'ssh', files('ssh.c')],
-   [rbd, 'rbd', files('rbd.c')],
-+  [vitastor, 'vitastor', files('vitastor.c')],
- ]
-   if m[0].found()
-     module_ss = ss.source_set()
-Index: pve-qemu-kvm-9.2.0/meson.build
-===================================================================
---- pve-qemu-kvm-9.2.0.orig/meson.build
-+++ pve-qemu-kvm-9.2.0/meson.build
-@@ -1590,6 +1590,26 @@ if not get_option('rbd').auto() or have_
-   endif
- endif
- 
-+vitastor = not_found
-+if not get_option('vitastor').auto() or have_block
-+  libvitastor_client = cc.find_library('vitastor_client', has_headers: ['vitastor_c.h'],
-+    required: get_option('vitastor'))
-+  if libvitastor_client.found()
-+    if cc.links('''
-+      #include <vitastor_c.h>
-+      int main(void) {
-+        vitastor_c_create_qemu(0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0);
-+        return 0;
-+      }''', dependencies: libvitastor_client)
-+      vitastor = declare_dependency(dependencies: libvitastor_client)
-+    elif get_option('vitastor').enabled()
-+      error('could not link libvitastor_client')
-+    else
-+      warning('could not link libvitastor_client, disabling')
-+    endif
-+  endif
-+endif
-+
- glusterfs = not_found
- glusterfs_ftruncate_has_stat = false
- glusterfs_iocb_has_stat = false
-@@ -2478,6 +2498,7 @@ endif
- config_host_data.set('CONFIG_OPENGL', opengl.found())
- config_host_data.set('CONFIG_PLUGIN', get_option('plugins'))
- config_host_data.set('CONFIG_RBD', rbd.found())
-+config_host_data.set('CONFIG_VITASTOR', vitastor.found())
- config_host_data.set('CONFIG_RDMA', rdma.found())
- config_host_data.set('CONFIG_RELOCATABLE', get_option('relocatable'))
- config_host_data.set('CONFIG_SAFESTACK', get_option('safe_stack'))
-@@ -4789,6 +4810,7 @@ summary_info += {'fdt support':       fd
- summary_info += {'libcap-ng support': libcap_ng}
- summary_info += {'bpf support':       libbpf}
- summary_info += {'rbd support':       rbd}
-+summary_info += {'vitastor support':  vitastor}
- summary_info += {'smartcard support': cacard}
- summary_info += {'U2F support':       u2f}
- summary_info += {'libusb':            libusb}
-Index: pve-qemu-kvm-9.2.0/meson_options.txt
-===================================================================
---- pve-qemu-kvm-9.2.0.orig/meson_options.txt
-+++ pve-qemu-kvm-9.2.0/meson_options.txt
-@@ -200,6 +200,8 @@ option('lzo', type : 'feature', value :
-        description: 'lzo compression support')
- option('rbd', type : 'feature', value : 'auto',
-        description: 'Ceph block device driver')
-+option('vitastor', type : 'feature', value : 'auto',
-+       description: 'Vitastor block device driver')
- option('opengl', type : 'feature', value : 'auto',
-        description: 'OpenGL support')
- option('rdma', type : 'feature', value : 'auto',
-Index: pve-qemu-kvm-9.2.0/qapi/block-core.json
-===================================================================
---- pve-qemu-kvm-9.2.0.orig/qapi/block-core.json
-+++ pve-qemu-kvm-9.2.0/qapi/block-core.json
-@@ -3481,7 +3481,7 @@
-             'raw', 'rbd',
-             { 'name': 'replication', 'if': 'CONFIG_REPLICATION' },
-             'pbs',
--            'ssh', 'throttle', 'vdi', 'vhdx',
-+            'ssh', 'throttle', 'vdi', 'vhdx', 'vitastor',
-             { 'name': 'virtio-blk-vfio-pci', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-user', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-vdpa', 'if': 'CONFIG_BLKIO' },
-@@ -4592,6 +4592,28 @@
-             '*server': ['InetSocketAddressBase'] } }
- 
- ##
-+# @BlockdevOptionsVitastor:
-+#
-+# Driver specific block device options for vitastor
-+#
-+# @image:       Image name
-+# @inode:       Inode number
-+# @pool:        Pool ID
-+# @size:        Desired image size in bytes
-+# @config-path: Path to Vitastor configuration
-+# @etcd-host:   etcd connection address(es)
-+# @etcd-prefix: etcd key/value prefix
-+##
-+{ 'struct': 'BlockdevOptionsVitastor',
-+  'data': { '*inode': 'uint64',
-+            '*pool': 'uint64',
-+            '*size': 'uint64',
-+            '*image': 'str',
-+            '*config-path': 'str',
-+            '*etcd-host': 'str',
-+            '*etcd-prefix': 'str' } }
-+
-+##
- # @ReplicationMode:
- #
- # An enumeration of replication modes.
-@@ -5054,6 +5076,7 @@
-       'throttle':   'BlockdevOptionsThrottle',
-       'vdi':        'BlockdevOptionsGenericFormat',
-       'vhdx':       'BlockdevOptionsGenericFormat',
-+      'vitastor':   'BlockdevOptionsVitastor',
-       'virtio-blk-vfio-pci':
-                     { 'type': 'BlockdevOptionsVirtioBlkVfioPci',
-                       'if': 'CONFIG_BLKIO' },
-@@ -5501,6 +5524,20 @@
-             '*encrypt' :        'RbdEncryptionCreateOptions' } }
- 
- ##
-+# @BlockdevCreateOptionsVitastor:
-+#
-+# Driver specific image creation options for Vitastor.
-+#
-+# @location: Where to store the new image file.  This location cannot
-+#     point to a snapshot.
-+#
-+# @size: Size of the virtual disk in bytes
-+##
-+{ 'struct': 'BlockdevCreateOptionsVitastor',
-+  'data': { 'location':         'BlockdevOptionsVitastor',
-+            'size':             'size' } }
-+
-+##
- # @BlockdevVmdkSubformat:
- #
- # Subformat options for VMDK images
-@@ -5722,6 +5759,7 @@
-       'ssh':            'BlockdevCreateOptionsSsh',
-       'vdi':            'BlockdevCreateOptionsVdi',
-       'vhdx':           'BlockdevCreateOptionsVhdx',
-+      'vitastor':       'BlockdevCreateOptionsVitastor',
-       'vmdk':           'BlockdevCreateOptionsVmdk',
-       'vpc':            'BlockdevCreateOptionsVpc'
-   } }
-Index: pve-qemu-kvm-9.2.0/scripts/meson-buildoptions.sh
-===================================================================
---- pve-qemu-kvm-9.2.0.orig/scripts/meson-buildoptions.sh
-+++ pve-qemu-kvm-9.2.0/scripts/meson-buildoptions.sh
-@@ -174,6 +174,7 @@ meson_options_help() {
-   printf "%s\n" '  qga-vss         build QGA VSS support (broken with MinGW)'
-   printf "%s\n" '  qpl             Query Processing Library support'
-   printf "%s\n" '  rbd             Ceph block device driver'
-+  printf "%s\n" '  vitastor        Vitastor block device driver'
-   printf "%s\n" '  rdma            Enable RDMA-based migration'
-   printf "%s\n" '  replication     replication support'
-   printf "%s\n" '  rust            Rust support'
-@@ -455,6 +456,8 @@ _meson_option_parse() {
-     --disable-qpl) printf "%s" -Dqpl=disabled ;;
-     --enable-rbd) printf "%s" -Drbd=enabled ;;
-     --disable-rbd) printf "%s" -Drbd=disabled ;;
-+    --enable-vitastor) printf "%s" -Dvitastor=enabled ;;
-+    --disable-vitastor) printf "%s" -Dvitastor=disabled ;;
-     --enable-rdma) printf "%s" -Drdma=enabled ;;
-     --disable-rdma) printf "%s" -Drdma=disabled ;;
-     --enable-relocatable) printf "%s" -Drelocatable=true ;;

patches/qemu-10.0-vitastor.patch

@@ -1,172 +0,0 @@
-diff --git a/block/meson.build b/block/meson.build
-index 34b1b2a306..24ca0f1e52 100644
---- a/block/meson.build
-+++ b/block/meson.build
-@@ -114,6 +114,7 @@ foreach m : [
-   [libnfs, 'nfs', files('nfs.c')],
-   [libssh, 'ssh', files('ssh.c')],
-   [rbd, 'rbd', files('rbd.c')],
-+  [vitastor, 'vitastor', files('vitastor.c')],
- ]
-   if m[0].found()
-     module_ss = ss.source_set()
-diff --git a/meson.build b/meson.build
-index 41f68d3806..29eaed9ba4 100644
---- a/meson.build
-+++ b/meson.build
-@@ -1622,6 +1622,26 @@ if not get_option('rbd').auto() or have_block
-   endif
- endif
- 
-+vitastor = not_found
-+if not get_option('vitastor').auto() or have_block
-+  libvitastor_client = cc.find_library('vitastor_client', has_headers: ['vitastor_c.h'],
-+    required: get_option('vitastor'))
-+  if libvitastor_client.found()
-+    if cc.links('''
-+      #include <vitastor_c.h>
-+      int main(void) {
-+        vitastor_c_create_qemu(0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0);
-+        return 0;
-+      }''', dependencies: libvitastor_client)
-+      vitastor = declare_dependency(dependencies: libvitastor_client)
-+    elif get_option('vitastor').enabled()
-+      error('could not link libvitastor_client')
-+    else
-+      warning('could not link libvitastor_client, disabling')
-+    endif
-+  endif
-+endif
-+
- glusterfs = not_found
- glusterfs_ftruncate_has_stat = false
- glusterfs_iocb_has_stat = false
-@@ -2506,6 +2526,7 @@ endif
- config_host_data.set('CONFIG_OPENGL', opengl.found())
- config_host_data.set('CONFIG_PLUGIN', get_option('plugins'))
- config_host_data.set('CONFIG_RBD', rbd.found())
-+config_host_data.set('CONFIG_VITASTOR', vitastor.found())
- config_host_data.set('CONFIG_RDMA', rdma.found())
- config_host_data.set('CONFIG_RELOCATABLE', get_option('relocatable'))
- config_host_data.set('CONFIG_SAFESTACK', get_option('safe_stack'))
-@@ -4813,6 +4834,7 @@ summary_info += {'fdt support':       fdt_opt == 'internal' ? 'internal' : fdt}
- summary_info += {'libcap-ng support': libcap_ng}
- summary_info += {'bpf support':       libbpf}
- summary_info += {'rbd support':       rbd}
-+summary_info += {'vitastor support':  vitastor}
- summary_info += {'smartcard support': cacard}
- summary_info += {'U2F support':       u2f}
- summary_info += {'libusb':            libusb}
-diff --git a/meson_options.txt b/meson_options.txt
-index 59d973bca0..a3e7123980 100644
---- a/meson_options.txt
-+++ b/meson_options.txt
-@@ -202,6 +202,8 @@ option('pvg', type: 'feature', value: 'auto',
-        description: 'macOS paravirtualized graphics support')
- option('rbd', type : 'feature', value : 'auto',
-        description: 'Ceph block device driver')
-+option('vitastor', type : 'feature', value : 'auto',
-+       description: 'Vitastor block device driver')
- option('opengl', type : 'feature', value : 'auto',
-        description: 'OpenGL support')
- option('rdma', type : 'feature', value : 'auto',
-diff --git a/qapi/block-core.json b/qapi/block-core.json
-index b1937780e1..a511193620 100644
---- a/qapi/block-core.json
-+++ b/qapi/block-core.json
-@@ -3216,7 +3216,7 @@
-             'parallels', 'preallocate', 'qcow', 'qcow2', 'qed', 'quorum',
-             'raw', 'rbd',
-             { 'name': 'replication', 'if': 'CONFIG_REPLICATION' },
--            'ssh', 'throttle', 'vdi', 'vhdx',
-+            'ssh', 'throttle', 'vdi', 'vhdx', 'vitastor',
-             { 'name': 'virtio-blk-vfio-pci', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-user', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-vdpa', 'if': 'CONFIG_BLKIO' },
-@@ -4299,6 +4299,28 @@
-             '*key-secret': 'str',
-             '*server': ['InetSocketAddressBase'] } }
- 
-+##
-+# @BlockdevOptionsVitastor:
-+#
-+# Driver specific block device options for vitastor
-+#
-+# @image:       Image name
-+# @inode:       Inode number
-+# @pool:        Pool ID
-+# @size:        Desired image size in bytes
-+# @config-path: Path to Vitastor configuration
-+# @etcd-host:   etcd connection address(es)
-+# @etcd-prefix: etcd key/value prefix
-+##
-+{ 'struct': 'BlockdevOptionsVitastor',
-+  'data': { '*inode': 'uint64',
-+            '*pool': 'uint64',
-+            '*size': 'uint64',
-+            '*image': 'str',
-+            '*config-path': 'str',
-+            '*etcd-host': 'str',
-+            '*etcd-prefix': 'str' } }
-+
- ##
- # @ReplicationMode:
- #
-@@ -4767,6 +4789,7 @@
-       'throttle':   'BlockdevOptionsThrottle',
-       'vdi':        'BlockdevOptionsGenericFormat',
-       'vhdx':       'BlockdevOptionsGenericFormat',
-+      'vitastor':   'BlockdevOptionsVitastor',
-       'virtio-blk-vfio-pci':
-                     { 'type': 'BlockdevOptionsVirtioBlkVfioPci',
-                       'if': 'CONFIG_BLKIO' },
-@@ -5240,6 +5263,20 @@
-             '*cluster-size' :   'size',
-             '*encrypt' :        'RbdEncryptionCreateOptions' } }
- 
-+##
-+# @BlockdevCreateOptionsVitastor:
-+#
-+# Driver specific image creation options for Vitastor.
-+#
-+# @location: Where to store the new image file.  This location cannot
-+#     point to a snapshot.
-+#
-+# @size: Size of the virtual disk in bytes
-+##
-+{ 'struct': 'BlockdevCreateOptionsVitastor',
-+  'data': { 'location':         'BlockdevOptionsVitastor',
-+            'size':             'size' } }
-+
- ##
- # @BlockdevVmdkSubformat:
- #
-@@ -5462,6 +5499,7 @@
-       'ssh':            'BlockdevCreateOptionsSsh',
-       'vdi':            'BlockdevCreateOptionsVdi',
-       'vhdx':           'BlockdevCreateOptionsVhdx',
-+      'vitastor':       'BlockdevCreateOptionsVitastor',
-       'vmdk':           'BlockdevCreateOptionsVmdk',
-       'vpc':            'BlockdevCreateOptionsVpc'
-   } }
-diff --git a/scripts/meson-buildoptions.sh b/scripts/meson-buildoptions.sh
-index 3e8e00852b..45aff3b6a9 100644
---- a/scripts/meson-buildoptions.sh
-+++ b/scripts/meson-buildoptions.sh
-@@ -175,6 +175,7 @@ meson_options_help() {
-   printf "%s\n" '  qga-vss         build QGA VSS support (broken with MinGW)'
-   printf "%s\n" '  qpl             Query Processing Library support'
-   printf "%s\n" '  rbd             Ceph block device driver'
-+  printf "%s\n" '  vitastor        Vitastor block device driver'
-   printf "%s\n" '  rdma            Enable RDMA-based migration'
-   printf "%s\n" '  replication     replication support'
-   printf "%s\n" '  rust            Rust support'
-@@ -458,6 +459,8 @@ _meson_option_parse() {
-     --disable-qpl) printf "%s" -Dqpl=disabled ;;
-     --enable-rbd) printf "%s" -Drbd=enabled ;;
-     --disable-rbd) printf "%s" -Drbd=disabled ;;
-+    --enable-vitastor) printf "%s" -Dvitastor=enabled ;;
-+    --disable-vitastor) printf "%s" -Dvitastor=disabled ;;
-     --enable-rdma) printf "%s" -Drdma=enabled ;;
-     --disable-rdma) printf "%s" -Drdma=disabled ;;
-     --enable-relocatable) printf "%s" -Drelocatable=true ;;

patches/qemu-9.2-vitastor.patch

@@ -1,172 +0,0 @@
-diff --git a/block/meson.build b/block/meson.build
-index f1262ec2ba..3cf3e23f16 100644
---- a/block/meson.build
-+++ b/block/meson.build
-@@ -114,6 +114,7 @@ foreach m : [
-   [libnfs, 'nfs', files('nfs.c')],
-   [libssh, 'ssh', files('ssh.c')],
-   [rbd, 'rbd', files('rbd.c')],
-+  [vitastor, 'vitastor', files('vitastor.c')],
- ]
-   if m[0].found()
-     module_ss = ss.source_set()
-diff --git a/meson.build b/meson.build
-index 147097c652..2486b3aeb5 100644
---- a/meson.build
-+++ b/meson.build
-@@ -1590,6 +1590,26 @@ if not get_option('rbd').auto() or have_block
-   endif
- endif
- 
-+vitastor = not_found
-+if not get_option('vitastor').auto() or have_block
-+  libvitastor_client = cc.find_library('vitastor_client', has_headers: ['vitastor_c.h'],
-+    required: get_option('vitastor'))
-+  if libvitastor_client.found()
-+    if cc.links('''
-+      #include <vitastor_c.h>
-+      int main(void) {
-+        vitastor_c_create_qemu(0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0);
-+        return 0;
-+      }''', dependencies: libvitastor_client)
-+      vitastor = declare_dependency(dependencies: libvitastor_client)
-+    elif get_option('vitastor').enabled()
-+      error('could not link libvitastor_client')
-+    else
-+      warning('could not link libvitastor_client, disabling')
-+    endif
-+  endif
-+endif
-+
- glusterfs = not_found
- glusterfs_ftruncate_has_stat = false
- glusterfs_iocb_has_stat = false
-@@ -2474,6 +2494,7 @@ endif
- config_host_data.set('CONFIG_OPENGL', opengl.found())
- config_host_data.set('CONFIG_PLUGIN', get_option('plugins'))
- config_host_data.set('CONFIG_RBD', rbd.found())
-+config_host_data.set('CONFIG_VITASTOR', vitastor.found())
- config_host_data.set('CONFIG_RDMA', rdma.found())
- config_host_data.set('CONFIG_RELOCATABLE', get_option('relocatable'))
- config_host_data.set('CONFIG_SAFESTACK', get_option('safe_stack'))
-@@ -4778,6 +4799,7 @@ summary_info += {'fdt support':       fdt_opt == 'internal' ? 'internal' : fdt}
- summary_info += {'libcap-ng support': libcap_ng}
- summary_info += {'bpf support':       libbpf}
- summary_info += {'rbd support':       rbd}
-+summary_info += {'vitastor support':  vitastor}
- summary_info += {'smartcard support': cacard}
- summary_info += {'U2F support':       u2f}
- summary_info += {'libusb':            libusb}
-diff --git a/meson_options.txt b/meson_options.txt
-index 5eeaf3eee5..b04eda29f9 100644
---- a/meson_options.txt
-+++ b/meson_options.txt
-@@ -200,6 +200,8 @@ option('lzo', type : 'feature', value : 'auto',
-        description: 'lzo compression support')
- option('rbd', type : 'feature', value : 'auto',
-        description: 'Ceph block device driver')
-+option('vitastor', type : 'feature', value : 'auto',
-+       description: 'Vitastor block device driver')
- option('opengl', type : 'feature', value : 'auto',
-        description: 'OpenGL support')
- option('rdma', type : 'feature', value : 'auto',
-diff --git a/qapi/block-core.json b/qapi/block-core.json
-index fd3bcc1c17..41571ac3f9 100644
---- a/qapi/block-core.json
-+++ b/qapi/block-core.json
-@@ -3212,7 +3212,7 @@
-             'parallels', 'preallocate', 'qcow', 'qcow2', 'qed', 'quorum',
-             'raw', 'rbd',
-             { 'name': 'replication', 'if': 'CONFIG_REPLICATION' },
--            'ssh', 'throttle', 'vdi', 'vhdx',
-+            'ssh', 'throttle', 'vdi', 'vhdx', 'vitastor',
-             { 'name': 'virtio-blk-vfio-pci', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-user', 'if': 'CONFIG_BLKIO' },
-             { 'name': 'virtio-blk-vhost-vdpa', 'if': 'CONFIG_BLKIO' },
-@@ -4295,6 +4295,28 @@
-             '*key-secret': 'str',
-             '*server': ['InetSocketAddressBase'] } }
- 
-+##
-+# @BlockdevOptionsVitastor:
-+#
-+# Driver specific block device options for vitastor
-+#
-+# @image:       Image name
-+# @inode:       Inode number
-+# @pool:        Pool ID
-+# @size:        Desired image size in bytes
-+# @config-path: Path to Vitastor configuration
-+# @etcd-host:   etcd connection address(es)
-+# @etcd-prefix: etcd key/value prefix
-+##
-+{ 'struct': 'BlockdevOptionsVitastor',
-+  'data': { '*inode': 'uint64',
-+            '*pool': 'uint64',
-+            '*size': 'uint64',
-+            '*image': 'str',
-+            '*config-path': 'str',
-+            '*etcd-host': 'str',
-+            '*etcd-prefix': 'str' } }
-+
- ##
- # @ReplicationMode:
- #
-@@ -4757,6 +4779,7 @@
-       'throttle':   'BlockdevOptionsThrottle',
-       'vdi':        'BlockdevOptionsGenericFormat',
-       'vhdx':       'BlockdevOptionsGenericFormat',
-+      'vitastor':   'BlockdevOptionsVitastor',
-       'virtio-blk-vfio-pci':
-                     { 'type': 'BlockdevOptionsVirtioBlkVfioPci',
-                       'if': 'CONFIG_BLKIO' },
-@@ -5198,6 +5221,20 @@
-             '*cluster-size' :   'size',
-             '*encrypt' :        'RbdEncryptionCreateOptions' } }
- 
-+##
-+# @BlockdevCreateOptionsVitastor:
-+#
-+# Driver specific image creation options for Vitastor.
-+#
-+# @location: Where to store the new image file.  This location cannot
-+#     point to a snapshot.
-+#
-+# @size: Size of the virtual disk in bytes
-+##
-+{ 'struct': 'BlockdevCreateOptionsVitastor',
-+  'data': { 'location':         'BlockdevOptionsVitastor',
-+            'size':             'size' } }
-+
- ##
- # @BlockdevVmdkSubformat:
- #
-@@ -5420,6 +5457,7 @@
-       'ssh':            'BlockdevCreateOptionsSsh',
-       'vdi':            'BlockdevCreateOptionsVdi',
-       'vhdx':           'BlockdevCreateOptionsVhdx',
-+      'vitastor':       'BlockdevCreateOptionsVitastor',
-       'vmdk':           'BlockdevCreateOptionsVmdk',
-       'vpc':            'BlockdevCreateOptionsVpc'
-   } }
-diff --git a/scripts/meson-buildoptions.sh b/scripts/meson-buildoptions.sh
-index a8066aab03..12e650e7d4 100644
---- a/scripts/meson-buildoptions.sh
-+++ b/scripts/meson-buildoptions.sh
-@@ -174,6 +174,7 @@ meson_options_help() {
-   printf "%s\n" '  qga-vss         build QGA VSS support (broken with MinGW)'
-   printf "%s\n" '  qpl             Query Processing Library support'
-   printf "%s\n" '  rbd             Ceph block device driver'
-+  printf "%s\n" '  vitastor        Vitastor block device driver'
-   printf "%s\n" '  rdma            Enable RDMA-based migration'
-   printf "%s\n" '  replication     replication support'
-   printf "%s\n" '  rust            Rust support'
-@@ -455,6 +456,8 @@ _meson_option_parse() {
-     --disable-qpl) printf "%s" -Dqpl=disabled ;;
-     --enable-rbd) printf "%s" -Drbd=enabled ;;
-     --disable-rbd) printf "%s" -Drbd=disabled ;;
-+    --enable-vitastor) printf "%s" -Dvitastor=enabled ;;
-+    --disable-vitastor) printf "%s" -Dvitastor=disabled ;;
-     --enable-rdma) printf "%s" -Drdma=enabled ;;
-     --disable-rdma) printf "%s" -Drdma=disabled ;;
-     --enable-relocatable) printf "%s" -Drelocatable=true ;;

rpm/build-tarball.sh

@@ -7,24 +7,22 @@ set -e
 VITASTOR=$(dirname $0)
 VITASTOR=$(realpath "$VITASTOR/..")
 
-REL=$(rpm --eval '%dist')
-REL=${REL##.}
-if [ "$REL" = "el8" ]; then
+EL=$(rpm --eval '%dist')
+if [ "$EL" = ".el8" ]; then
     # CentOS 8
     . /opt/rh/gcc-toolset-9/enable
-elif [ "$REL" = "el7" ]; then
+elif [ "$EL" = ".el7" ]; then
     # CentOS 7
     . /opt/rh/devtoolset-9/enable
 fi
 cd ~/rpmbuild/SPECS
 rpmbuild -bp fio.spec
 cd $VITASTOR
-VER=$(grep ^Version: rpm/vitastor-$REL.spec | awk '{print $2}')
-rm -rf fio
+VER=$(grep ^Version: rpm/vitastor-el7.spec | awk '{print $2}')
 ln -s ~/rpmbuild/BUILD/fio*/ fio
 sh copy-fio-includes.sh
 rm fio
 mv fio-copy fio
 FIO=`rpm -qi fio | perl -e 'while(<>) { /^Epoch[\s:]+(\S+)/ && print "$1:"; /^Version[\s:]+(\S+)/ && print $1; /^Release[\s:]+(\S+)/ && print "-$1"; }'`
-perl -i -pe 's/(Requires:\s*fio)([^\n]+)?/$1 = '$FIO'/' $VITASTOR/rpm/vitastor-$REL.spec
-tar --transform "s#^#vitastor-$VER/#" --exclude 'rpm/*.rpm' -czf $VITASTOR/../vitastor-$VER.$REL.tar.gz $(ls | grep -v packages)
+perl -i -pe 's/(Requires:\s*fio)([^\n]+)?/$1 = '$FIO'/' $VITASTOR/rpm/vitastor-el$EL.spec
+tar --transform "s#^#vitastor-$VER/#" --exclude 'rpm/*.rpm' -czf $VITASTOR/../vitastor-$VER$(rpm --eval '%dist').tar.gz *

rpm/vitastor-build.sh

@@ -1,16 +0,0 @@
-#!/bin/bash
-
-set -e -x
-REL=$(rpm --eval '%dist')
-REL=${REL##.}
-cd /root/vitastor/rpm
-./build-tarball.sh
-VER=$(grep ^Version: vitastor-$REL.spec | awk '{print $2}')
-cp /root/vitastor-$VER.$REL.tar.gz ~/rpmbuild/SOURCES
-cp vitastor-$REL.spec ~/rpmbuild/SPECS/vitastor.spec
-cd ~/rpmbuild/SPECS/
-rpmbuild -ba vitastor.spec
-mkdir -p /root/vitastor/packages/vitastor-$REL
-rm -rf /root/vitastor/packages/vitastor-$REL/*
-cp ~/rpmbuild/RPMS/*/*vitastor* /root/vitastor/packages/vitastor-$REL/
-cp ~/rpmbuild/SRPMS/vitastor* /root/vitastor/packages/vitastor-$REL/